Проблема открытых миров
Способность LLM-агентов выполнять сложные задачи зависит не только от базовой модели, но и от их «шасси» (harness) — набора инструкций и инструментов исполнения. Проблема в том, что в реальных сценариях (open-world) агенты сталкиваются с неизвестными задачами, для которых нет ground-truth верификаторов. Традиционные методы рекурсивного самосовершенствования (RSI) часто застревают в узкой специализации и не обобщаются на новые сценарии.
Архитектура Harness^2
Авторы предлагают plug-and-play решение с двумя уровнями рекурсии:
- Task-level recursion: Улучшение текущего шасси через контрастную процедуру Propose-Probe-Compose. Это позволяет редактировать инструкции без наличия эталонных ответов.
- Harnessing-level recursion: Извлечение опыта из предыдущих улучшений для обновления «непрерывно улучшаемого шасси», что помогает агенту адаптироваться к будущим задачам.
Результаты бенчмарков
Эксперименты проводились на моделях GLM-5 и Gemini 3.5 Flash. Даже один шаг рекурсии стабильно превосходил базовые шасси. Ниже приведены ключевые метрики прироста точности:
| Бенчмарк | Модель | Прирост (Delta) |
|---|---|---|
| WorkBuddy-Bench | GLM-5 / Gemini 3.5 Flash | +11.5 points |
| JobBench | GLM-5 / Gemini 3.5 Flash | +4.5 points |
| LAB | GLM-5 / Gemini 3.5 Flash | +11.8 percentage points |
Значение для индустрии
Работа демонстрирует, что автоматизация настройки агентов возможна даже в условиях неопределенности. Увеличение бюджета рекурсии на уровне задач дает дополнительные приросты, что открывает путь к созданию самообучающихся систем, способных работать в динамичной среде без постоянного вмешательства человека.
Источник: arXiv cs.AI ↗
