Проблема «иллюзии обучения»
В многошаговых агентах на базе языковых моделей (LLM) рост точности ответа часто ошибочно приписывают способности модели «понимать» критику. Авторы работы What Drives Interactive Improvement from Feedback? (Cupiał et al.) доказывают, что это когнитивное искажение. Без строгого контроля невозможно отличить полезную обратную связь от эффекта resampling (повторного выбора лучшего из нескольких попыток) или простого увеличения вычислительных ресурсов на этапе тестирования.
Методология: контролируемый протокол «Студент-Учитель»
Для изоляции эффекта фидбека исследователи разработали строгий протокол, протестировав 13 открытых моделей в ролях «студента» (решающего задачу) и «учителя» (дающего подсказки). Оценка проводилась на сложных бенчмарках:
- Omni-MATH (математика высокого уровня)
- Codeforces (программирование)
- BBEH Linguini (лингвистические задачи)
- ARC-AGI1 (логическое мышление)
Сравнивались три сценария: внешняя обратная связь, самокоррекция (self-feedback) и неконтролируемое самосовершенствование (unguided self-refinement).
Ключевые метрики и результаты
Анализ показал, что самогенерируемая обратная связь добавляет ничтожно мало пользы по сравнению с простым повторным запуском. Настоящий прирост точности дают только внешние учителя, предоставляющие специфические указания. Ниже приведена сравнительная динамика эффективности подходов:
| Метод взаимодействия | Источник улучшения | Вклад в точность (относительно базовой попытки) |
|---|---|---|
| Unguided Self-Refinement | Повторный запуск (Resampling) | Базовый уровень (вычислительная стоимость) |
| Self-Feedback (Самокоррекция) | Имитация анализа | Минимальный (статистически незначимый прирост) |
| External Feedback (Внешний учитель) | Целевая коррекция | Значительный прирост (зависит от качества учителя) |
Главный инсайт: Студент важнее Учителя
Плотные матрицы взаимодействия «студент-учитель» выявили парадоксальный факт: способность модели использовать полученную подсказку (студент) влияет на результат сильнее, чем личность самого учителя. Однако выбор правильного учителя остается критичным для фиксированного студента. Если модель не умеет интерпретировать контекст, даже идеальный учитель не спасет.
Почему это важно для индустрии
Результаты ставят под сомнение текущие подходы к оценке RAG-систем и агентов. Разработчикам следует:
- Всегда сравнивать интерактивные агенты с базовой линией repeated-attempts (многократных запусков без фидбека).
- Фокусироваться на обучении моделей реакции на критику, а не просто на генерации большего количества подсказок.
Авторы опубликовали фреймворк оценки, позволяющий воспроизвести эти тесты, что открывает путь к более честной benchmark-индустрии.
Источник: arXiv cs.AI ↗