AdaPRA: Как адаптивные рубрики улучшили Qwen-80B на 24.5 балла

Проблема: тупики в автоматизации Data Science

Агенты для автоматизации машинного обучения часто проигрывают человеку не из-за отсутствия знаний, а из-за процессуальных ошибок. Агенты склонны к недостаточному исследованию данных, некорректной валидации, багам в коде и, что критично, к неэффективному использованию бюджета вычислений. Они часто зацикливаются, повторно запуская один и тот же EDA (exploratory data analysis) и базовые модели, не накапливая опыт между попытками.

Решение: AdaPRA с адаптивными рубриками

Команда авторов (Atharva Naik, Vivek Chari и др.) предложила архитектуру AdaPRA (Process Reward Agents with Adaptive Rubrics). Это постоянный агент-кодер, который накапливает знания в рамках одной задачи. Ключевая инновация — адаптивные рубрики (rubrics): система аудита анализирует траекторию агента, выявляет ошибки и подстраивает критерии оценки под конкретную задачу. Рубрики, сформированные на легких задачах, успешно обобщаются на сложные, а их адаптация дополнительно повышает точность.

Результаты: обгон конкурентов и рост лидербордов

Эксперименты проводились на датасетах DSPredict. Использование 5 попыток на задачу позволило модели Qwen-80B значительно улучшить позиции. Система также продемонстрировала способность переносить знания: рубрики, добытые из запусков одной базовой модели (DeepSeek-V3.2), улучшили работу другой. AdaPRA превзошла конкурентоспособный процессный reward model DataPRM.

Значение для индустрии

Работа демонстрирует, что статические правила оценки не работают в сложных сценариях Data Science. Способность агента «понимать», где именно он ошибся, и менять стратегию на основе адаптированных критериев, является ключом к созданию автономных систем, способных конкурировать с опытными дата-сайентистами. Код для воспроизведения результатов опубликован.

Источник: arXiv cs.AI ↗