От каста к монолиту: зачем менять архитектуру
Традиционные рекомендательные системы Яндекса (и многих других компаний) работают по каскадной схеме: более 15 алгоритмов отбора, модель предранжирования и финальное ранжирование. Каждая модель обучается отдельно, использует сотни признаков (включая сигналы от трансформера Argus) и часто конфликтует с соседями по цепочке. Улучшение одного этапа не гарантирует роста метрик всего сервиса, а поддержка такой системы требует огромных ресурсов.
Яндекс решил проверить гипотезу: может ли одна нейросеть выполнять и поиск, и ранжирование? Результатом стала модель Sona, обученная с нуля на данных Яндекса.
Как работает Sona: Semantic ID и дистилляция знаний
Вместо перебора всего каталога Sona использует уникальный подход к представлению данных. Каждому треку присваивается Semantic ID — короткий составной код, построенный на основе первых 90 секунд аудио, метаданных и поведения слушателей. Похожие по звучанию или реакции аудитории треки имеют схожие начала кода, что позволяет модели эффективно сужать поиск.
Процесс обучения Sona включает этап дистилляции знаний:
- Учитель (Teacher): Большая модель, обученная на годовом массиве данных (прослушивания, лайки, дизлайки). Она формирует эталонные оценки качества рекомендаций.
- Ученик (Sona): Легковесная модель, которая учится имитировать оценки учителя. При этом Sona работает в реальном времени, а «учитель» нужен только на этапе обучения.
Скорость обучения и адаптация
Одной из ключевых особенностей Sona является способность учиться на свежих данных. Система работает в режиме непрерывного обучения:
- Обновление модели происходит каждые 10 минут.
- Медианное время от действия пользователя (лайка/пропуска) до появления обновленной версии в продакшене составляет 45 минут (в 99% случаев — не более часа).
- История пользователя анализируется один раз, формируя контекст, который используется как для поиска кандидатов, так и для их финального ранжирования.
Результаты A/B-теста на Яндекс Станциях
Тестирование проводилось в сценарии «умного воспроизведения» на умных колонках с Алисой, где пользователь не задает конкретный жанр или исполнителя. Эксперимент длился 7 дней, в нем участвовали группы по 15% аудитории.
| Метрика | Изменение относительно контроля | Значимость |
|---|---|---|
| Общее время прослушивания | +6,30% | Статистически значимый рост вовлеченности |
| Количество лайков | +11,42% | Рост качества подбора контента |
| Активная аудитория | +4,53% | В 2,4 раза больше, чем при внедрении Argus |
Что дальше?
Команда R&D, инженеры Алисы и Яндекс Музыки отмечают, что перед широким внедрением необходимо проверить устойчивость результатов в долгосрочной перспективе (несколько месяцев). Также планируется адаптировать архитектуру Sona для других продуктов с персональными рекомендациями, включая Яндекс Рекламу. Технический отчет с подробным описанием архитектуры опубликован на arXiv.
Источник: Habr ↗