FormulaSPIN: Самообучение LLM для формул Excel без данных

Проблема: тупик ручных аннотаций

Создание формул для электронных таблиц (Excel, Google Sheets) по естественному языку остается сложной задачей. Существующие подходы опираются на статические наборы данных, которые быстро исчерпываются. Стандартный метод Self-Play Iterative Fine-Tuning (SPIN) здесь не работает: он наказывает модель за любое отклонение от эталона, игнорируя тот факт, что в таблицах множество разных формул могут давать один и тот же результат. Это создает противоречивые градиенты обучения.

Решение: бинарная исполняемость как сигнал

Команда Cy Xie предложила Framework FormulaSPIN, который использует уникальное свойство табличных вычислений — бинарную исполняемость. Если формула вычисляется без ошибки, она считается семантически верной, даже если отличается от «эталонной» по синтаксису. Обучение построено как игра двух игроков: основная модель учится предпочитать формулы своей предыдущей версии, а обратная связь от выполнения (execution feedback) сортирует ответы на «семантически верные» и «ошибочные».

Ключевые метрики и результаты

Метод демонстрирует state-of-the-art результаты на бенчмарке NL2FORMULA. Важно отметить, что модель достигла этих показателей без дополнительных аннотаций предпочтений, сопоставимых с моделями, обученными на таких данных, и превзошла многие проприетарные аналоги.

Почему это важно

FormulaSPIN доказывает, что в доменах с «исполняемым» результатом (код, формулы, SQL) можно обойти дефицит размеченных данных. Принятие работы в ACL 2026 Main Conference Oral подтверждает значимость подхода. Это открывает путь к созданию более автономных AI-ассистентов, способных улучшать свои навыки через практику, а не только через чтение обучающих наборов.

Источник: arXiv cs.AI ↗