Together AI расширила REST API поддержкой webhook-уведомлений об окончании больших запросов
Together AI пополнила REST API поддержкой вебхуков, которые вызываются при завершении асинхронного запроса. Это позволяет разработчикам не опрашивать статус, а получать уведомление сразу по готовности результата.
Каждый запрос может быть снабжён URL вебхука, на который Together AI пошлёт POST с результатами, включая token count, время выполнения и полный ответ модели. Это упрощает интеграцию в асинхронные workflow-ы и очереди задач.
Асинхронная обработка
Вебхуки поддерживают retry-логику с экспоненциальной задержкой, а также позволяют передать custom header для верификации источника уведомления. Разработчик сам выбирает, какие события отправлять через вебхук.
Функция особенно полезна при работе с большими батчами запросов или длительными inference-операциями, где ожидание в синхронном режиме неэффективно.
Поддержка вебхуков доступна для всех моделей Together AI, начиная с последнего обновления API, и документирована в обновлённых гайдах.