Агент вызывает инструмент и, не дождавшись ответа, ставит задачу в очередь
Традиционный поток — агент вызывает функцию и ждёт результата. Если операция занимает минуту или час, агент зависает и не может начать новую задачу. Асинхронная версия решает это иначе: агент ставит задачу в очередь, получает идентификатор и сразу же переключается на следующую работу, оставляя webhook для уведомления о готовности результата.
На практике это выглядит так: агент запрашивает формирование отчёта, который занимает 5 минут, и ставит его в очередь обработки. За эти 5 минут он может обработать 100 других, менее трудоёмких задач — анализ писем, сортировку файлов, ответы на стандартные вопросы. Когда отчёт готов, система уведомляет агента, и он встраивает результат в контекст основной работы.
Паттерны реализации
Очередь сообщений (RabbitMQ, Kafka или облачные аналоги) становится骨стяком такой архитектуры. Агент становится производителем задач, воркеры — потребителями, и система автоматически балансирует нагрузку по доступным ресурсам.
Эта схема критична для масштабирования: одного агента можно обслуживать десяток или сотня воркеров, в зависимости от очереди. Задачи выполняются параллельно и автоматически повторяются при ошибках, что повышает надёжность и снижает зависимость от отдельных машин.