Революция в архитектуре рекомендаций
Команда разработчиков Яндекса представила Sona — единую генеративную модель рекомендаций для сервиса Яндекс Музыка. В отличие от традиционных подходов, где система состоит из множества этапов (кандидат-генераторы, пре-ранкинг, ранкинг), Sona объединяет эти функции в одном артефакте. Модель заменила весь производственный каскад, который ранее включал более 15 генераторов кандидатов и сложные модели ранжирования, потребляющие сотни признаков, включая сигналы от больших трансформеров Argus.
Как работает Sona: единое представление пользователя
Архитектура Sona строится вокруг общего представления пользователя (shared user representation). Кодер преобразует хронологическую последовательность событий взаимодействия пользователя (прослушивания, лайки, пропуски) в скрытые состояния. Эти состояния одновременно питают авторегрессионный декодер (для генерации рекомендаций) и модуль ранжирования (Ranking Module). Обучение происходит через совместное использование целей next-token-prediction и дистилляции, что связывает генерацию и ранкинг через одно и то же состояние пользователя. Важно, что ни Sona, ни ее модель-учитель (Teacher Ranker) не используют ручную инженерию признаков — они оперируют только полями логов событий и выученными представлениями предметов.
Результаты A/B тестирования на умных колонках
Оценка модели проводилась в онлайн-эксперименте на живом трафике сервиса «Моя волна» (My Vibe) на умных колонках — одном из крупнейших поверхностей рекомендаций Яндекса. Результаты превзошли ожидания, показав статистически значимый прирост по всем ключевым метрикам вовлеченности по сравнению с контрольной группой (старым каскадом):
| Метрика | Прирост (Uplift) | Примечание |
|---|---|---|
| Active Users (Активные пользователи) | +4.53% | Ключевая метрика успеха |
| Total Listening Time (Общее время прослушивания) | +6.30% | Рост потребления контента |
| Likes (Лайки) | +11.42% | Рост качества рекомендаций |
Эти эффекты были добавлены к улучшениям, полученным от предыдущих деплоев. Прирост по метрике Active Users в 2.35 раза превысил прирост, который ранее обеспечивала модель Argus — сильнейшая система, работавшая на этой поверхности до внедрения Sona.
Почему это важно для индустрии
Внедрение Sona демонстрирует, что единая совместно обученная модель способна заменить зрелый многоэтапный каскад рекомендаций, не уступая ему в эффективности, а значительно превосходя его. Отказ от ручных признаков и переход к end-to-end обучению на сырых логах событий упрощает инфраструктуру и снижает задержки. В финальной конфигурации для продакшена используется только одна модель (энкодер, декодер и модуль ранкинга), так как тяжелая модель-учитель нужна только на этапе обучения для предоставления целевых сигналов.
Источник: Arxiv ↗