Проблема «серого пояса» в AI-агентинге
Современные AI-агенты часто сталкиваются с ситуацией, когда действие запущено, но результат неизвестен, а права доступа (permission) могли измениться. Авторы работы "Permission to Retry" (arXiv:2610.31916) выделяют четыре ключевых обязательства для обеспечения надежности: наличие контрольной точки (checkpoint), разрешение на отправку, доказательство внешнего воздействия и разрешение на согласование (reconciliation). Главная цель исследования — изолировать решения о восстановлении от поведения самой языковой модели (LLM).
Масштабное тестирование: 336 историй
Исследователи провели конечное исследование соответствия (finite conformance study), используя скрытый от приложения реестр эффектов провайдера. Тестирование проводилось на нативных хостах LangGraph и Temporal. В эксперименте участвовали:
- 336 историй выполнения (histories);
- 14 различных расписаний (schedules);
- 3 контракта провайдеров;
- 4 согласованные политики приложений.
Результаты: 100% согласованность
Ключевой вывод — все 168 парных ячеек хостов показали идентичные проверенные результаты. Это означает, что архитектура восстановления работает детерминировано независимо от платформы. Ниже приведена детализация прохождения тестов для различных стратегий повторных попыток:
| Стратегия восстановления | Пройдено историй (из 42) | Статус |
|---|---|---|
| Кэшированная повторная попытка (Cached retry) | 30 | Успешно |
| Перепроверка перед повтором (Revalidation before retry) | 36 | Наиболее надежная |
| Повтор с устойчивым ключом (Stable-key retry) | 31 | Успешно |
При этом 21 история завершилась успешно, 15 были отклонены, а 6 имели неопределенные исходы с сохранением резервов. Все 42 истории прошли проверку согласования с сохраненным реестром.
Внедрение в Enterprise: InfinityOS
Отдельное исследование из 16 случаев было проведено на платформе InfinityOS (разработанной компанией Infinity). Тестировался экспорт полномочий, кода рабочих процессов, восстановления и расчетов. Результаты подтвердили, что безопасность, завершение задач и неразрешенные обязательства можно отчетливо разделить, опираясь на текущие полномочия и контракты провайдеров.
Почему это важно?
Работа доказывает, что «надежный агент» — это не просто умная модель, а система с жесткой архитектурой авторизации. Для разработчиков это означает необходимость внедрения механизмов revalidation before retry (перепроверки перед повтором), которые показали лучший результат (36 из 42), чтобы избежать дублирования действий или потери данных в распределенных системах.
Источник: arXiv cs.AI ↗