Когда агент видит, что задача невыполнима, и объясняет причину
Обновления в системах управления агентами добавили логику, позволяющую им анализировать собственные возможности и ограничения. Если задача требует данных, которых нет в доступных источниках, или противоречит другой, агент теперь это замечает и честно говорит об этом.
Раньше агенты либо выдумывали ответ, либо зависали в бесконечном цикле попыток. Теперь они кончают попытки, признаются в невозможности и описывают, какие условия нужно изменить, чтобы задача стала решаемой.
Пример из практики
Если пользователь попросит агента найти доход компании за день, которого нет в публичных отчётах, агент скажет: «Такие данные не опубликованы; могу найти квартальный результат или дату ближайшего отчёта».
Это улучшает доверие к системе. Пользователь видит, что агент не врёт и не угадывает, а трезво оценивает ситуацию. Кроме того, такое поведение помогает разработчикам быстрее заметить, когда требования задачи нарушают реальность.
Компании, интегрировавшие эту логику, заметили, что количество ошибочных ответов упало, а время на исправление снизилось — потому что люди сразу видят, что переформулировать нужно, а не что-то исправить в работе агента.