Kuaishou: One-Pass Inference для ранжирования страниц с ускорением в 4x

Проблема: разрыв между качеством и скоростью

Ранжирование целой страницы (Whole Page Ranking, WPR) требует одновременной оптимизации рекламы и органического контента с учетом сложных ограничений макета. Существующие подходы делятся на два лагеря:

• Неавторегрессивные (NAR): генерируют страницу быстро, но оценивают кандидаты независимо, игнорируя порядок элементов.
• Авторегрессивные (AR): учитывают последовательные зависимости, но требуют многократных полных инференсов, что делает их слишком медленными для продакшена.

Команда Kuaishou (авторы Qi Xu, Zhigang Hua и др.) предлагает решение, закрывающее этот разрыв через архитектуру Multi-Item Scoring (MIS).

Решение: Multi-Item Scoring (MIS)

MIS — это prefix-aware NAR-фреймворк, который внедряет последовательный контекст в эффективное многоэлементное скорингование. Ключевые особенности:

• Глобальные взаимодействия: вычисление общих представлений кандидатов один раз за запрос.
• Локальная условность: легковесное скорингование с учетом префикса (предыдущих элементов) во время beam search.
• Позиционная осведомленность: учет позиции элемента в структуре.

Это позволяет захватывать важные последовательные зависимости без повторного полного инференса модели для каждого элемента.

Результаты: бенчмарки и метрики

Эксперименты проводились на датасетах KuaiRand-1K и RL4RS, а также в A/B-тестах на крупной социальной видео-платформе. MIS демонстрирует качество, близкое к AR-базовой модели CGA, но с существенным ускорением.

Значение для индустрии

Работа демонстрирует, что можно достичь качества генерации, сопоставимого с тяжелыми AR-моделями, сохраняя эффективность, необходимую для масштабируемых промышленных систем. MIS снижает затраты на вычисления при одновременном улучшении пользовательского опыта и бизнес-показателей.

Источник: arXiv cs.AI ↗