Прорыв в эффективности малых моделей
Команда исследователей Syed Mahbubul Huq и Pranava Madhyastha представила модель Qwen-GuidePlay-2B, способную вести сложные диалоговые игры. В отличие от тренда на увеличение параметров, авторы показали, что 2-миллиардная модель (на базе Qwen3.5-2B) может конкурировать с более крупными системами, если правильно выстроить процесс обучения. Модель заняла второе место по метрике clemscore delta среди всех поданных систем на официальном соревновании LMP Challenge, улучшив базовые показатели на +36 пунктов.
Трехэтапная стратегия обучения
Ключевой вывод работы: для малых моделей важнее качество данных и стратегия отбора, чем сложные методы вроде replay-repair или хард-экзампл майнинг. Обучение состояло из трех последовательных этапов:
- Этап 1 (SFT): Обучение только на успешных траекториях из датасета Playpen. Это сделало модель «играбельной» (она научилась не ломать сценарий).
- Этап 2 (Weighted Turn-level SFT): Взвешенное обучение на уровне отдельных реплик для улучшения принятия решений.
- Этап 3 (Teacher-guided SFT): Использование большой модели-учителя только для проверки форматирования и оценки примеров, а не для генерации новых действий. Это предотвратило «размывание» знаний малой модели.
Результаты на валидационном наборе
Финальная модель продемонстрировала стабильные результаты на публичном валидационном наборе Playpen. Ниже приведено сравнение ключевых метрик:
| Метрика | Значение Qwen-GuidePlay-2B | Значение базовой Qwen3.5-2B | Прирост (Delta) |
|---|---|---|---|
| ClemScore | 57.12 | ~21.12* | +36.00 |
| Statscore | 42.68 | Информация недостаточна | Информация недостаточна |
*Значение базовой модели рассчитано исходя из заявленного прироста +36.
Почему это важно для индустрии
Работа опровергает необходимость применения ресурсоемких процедурных методов для улучшения малых языковых моделей (SLM). Авторы доказали, что тщательная куратория данных (curated data curation) дает больший прирост производительности, чем агрессивные изменения архитектуры или алгоритмов обучения. Модель и код опубликованы для воспроизводимости, что открывает путь к созданию эффективных диалоговых агентов, работающих на ограниченных вычислительных мощностях.
Источник: arXiv cs.CL ↗