Проблема бесконечных циклов
Современные AI-агенты проектируются для многошагового взаимодействия с окружением: поиска в интернете, работы с терминалом или совершения покупок. Однако, когда цель пользователя недостижима или плохо сформулирована, агент должен не продолжать попытки, а воздержаться (abstain) от дальнейших действий. Это явление авторы называют Agentic Abstention.
В отличие от стандартного отказа LLM (ответь или промолчи), агентский отказ — это последовательное решение. Агент может ответить, отказаться или собрать больше информации на каждом шаге. Главная проблема: многие агенты либо никогда не отказываются, когда должны, либо делают это слишком поздно, потратив ресурсы на ненужные итерации.
Масштабное тестирование: 28 000 задач
Команда исследователей (Han Luo, Bingbing Wen, Lucy Lu Wang) оценила 13 систем LLM-as-agent и 2 агентных каркаса (scaffolds) на более чем 28 000 задачах в трех сценариях: веб-шопинг (WebShop), терминальные среды и вопросы с ответами. Результаты показали парадокс: более крупные и мощные модели иногда хуже справляются с timely abstention (своевременным отказом), чем их меньшие аналоги.
Решение CONVOLVE: контекстная инженерия
Авторы представили метод CONVOLVE, который не требует дообучения модели. Он работает через context engineering: полные траектории взаимодействия агента с окружением дистиллируются в переиспользуемые правила остановки. Это позволяет агенту «запомнить» паттерны, при которых дальнейшие действия бессмысленны.
Результаты на WebShop
Метод CONVOLVE продемонстрировал значительный рост метрики timely recall (доля своевременных отказов) для модели Llama-3.3-70B. Ниже приведено сравнение эффективности:
| Метрика | Без CONVOLVE | С CONVOLVE | Прирост |
|---|---|---|---|
| Timely Recall (Llama-3.3-70B) | 26.7% | 57.4% | +30.7 п.п. |
| Эффективность | Частые лишние итерации | Быстрое признание невозможности | Экономия токенов/времени |
Исследование подчеркивает, что ключевой вызов сегодня — не способность агента действовать, а его способность распознать момент, когда действие следует прекратить. Код и датасет доступны в открытом доступе.
Источник: arXiv cs.AI ↗