Агент научился отменять неправильные шаги и продолжать задачу дальше
Группа учёных опубликовала метод, при котором агент отслеживает критические точки в процессе выполнения задачи. Если операция приводит к ошибке, агент не прерывает работу, а откатывает состояние к последней успешной точке и пробует альтернативный вариант действия.
Система ведёт стек контрольных точек, записывая результат каждого вызова функции. При обнаружении ошибки агент поднимается на уровень выше, удаляет неудачную ветку и исследует соседние пути без повторения уже пройденных операций.
Преимущества и использование
На практике это сокращает количество полных перезапусков задачи в 5-10 раз. Для длительных операций, требующих часов вычислений, отмена одного неправильного шага экономит ресурсы и стоимость использования облачных сервисов.
Метод особенно полезен в задачах, где результаты предыдущих шагов дорогие: запросы к API, обработка больших объёмов данных, работа с физическими манипуляторами. Откат неправильного движения robotic arm занимает миллисекунды вместо переполнения буфера сеанса.
Способность агента учиться на ошибках без повтора пройденного пути приближает автономные системы к человеческому подходу к проблемам: сделал ошибку, вернулся и попробовал по-другому.