Проблема «шума» в коротких сессиях
Большинство современных систем рекомендаций (например, SASRec) полагаются на краткосрочные сессии, предсказывая следующее действие пользователя на основе последних взаимодействий. Однако этот подход терпит неудачу, когда история пользователя коротка или неоднозначна. Традиционное решение — просто добавить больше данных — часто неэффективно из-за вычислительных затрат и шума. Исследователи из Meta (Aysenur Inan, Reza Yousefi Maragheh и др.) задались вопросом: когда именно долгосрочная история и социальные сигналы приносят пользу, а когда они лишь замедляют систему?
Архитектура BehaveRec: три сигнала в одном
Авторы предложили фреймворк BehaveRec, который динамически смешивает три типа сигналов с помощью обучаемого гейта (gate mechanism). Вместо того чтобы всегда использовать сложные модели, система адаптируется под каждого пользователя:
- Session Transformer: Анализирует причинно-следственные связи в текущей сессии (краткосрочный контекст).
- User History Encoder: Двунаправленный энкодер, обрабатывающий историю пользователя за последние 90 дней (долгосрочный контекст).
- GraphSAGE Module: Использует граф пользователей, построенный на основе сходства поведенческих эмбеддингов, а не просто ко-встречаемости товаров. Это позволяет находить похожих пользователей по поведению, а не по покупкам.
Результаты на промышленных данных
Модель протестирована на индустриальном датасете из 137 миллионов последовательностей от 12.6 миллионов пользователей. BehaveRec демонстрирует стабильное улучшение по сравнению с базовой моделью SASRec. Важно отметить, что преимущество сохраняется даже при сравнении с «жирной» версией SASRec с большим количеством параметров, что исключает гипотезу о том, что рост метрик вызван просто увеличением емкости модели.
| Модель / Конфигурация | Улучшение R@5 (относительно SASRec) | Количество параметров |
|---|---|---|
| SASRec (Baseline) | 0.0% | — |
| BehaveRec | +3.2% | 5.67 млн |
| SASRec (Large Capacity) | +2.5% | > BehaveRec |
Правило «20 взаимодействий»
Ключевое открытие исследования — наличие четкой зависимости «доза-эффект». Преимущество BehaveRec практически незаметно, если у пользователя менее 10 взаимодействий. Однако с ростом истории преимущество растет монотонно. Для пользователей с 101+ событиями прирост R@5 достигает +0.017 (в абсолютных значениях метрики).
На основе этих данных авторы выводят практическое правило для деплоя: использовать долгосрочную историю и графовые сигналы стоит только после того, как у пользователя накопится около 20 взаимодействий. До этого порога лучше использовать легкие сессионные модели, чтобы избежать ложных срабатываний и лишних вычислений.
Эффективность и масштабируемость
Несмотря на сложность архитектуры, BehaveRec остается легкой моделью. Она обучается на одной GPU менее чем за два дня и содержит всего 5.67 млн параметров. Результаты подтверждены на трех публичных датасетах, охватывающих сценарии от богатой до бедной истории, что делает выводы исследования репрезентативными для широкого спектра рекомендательных систем.
Источник: arXiv cs.AI ↗