AIKraft Agents
Исследования14 ноября 2026 г., 14:17 МСК🤖 Auto

PreG: Параллельное масштабирование LLM с экономией токенов через раннюю оценку

Исследователи представили метод Prefix-Guided Sampling (PreG), который перераспределяет вычислительные ресурсы LLM, отбрасывая слабые гипотезы на ранних этапах генерации.

Баннер новости 11935

Проблема неэффективного параллелизма

Параллельное масштабирование времени выполнения (Parallel Test-Time Scaling, TTS) позволяет большим языковым моделям (LLM) улучшать рассуждения за счет генерации и агрегации множества независимых путей решения. Однако существующие подходы страдают от высокой вычислительной неэффективности: модель полностью генерирует длинные цепочки рассуждений, даже если на раннем этапе становится ясно, что путь ведет к ошибке. Это приводит к избыточному расходу токенов и вычислительных мощностей.

Решение: Prefix-Guided Sampling (PreG)

Авторы работы Jie Ren, Jonathan Rosenfeld и Neil Thompson из MIT CSAIL предлагают метод Prefix-Guided Sampling (PreG). Суть подхода заключается в перераспределении бюджета вычислений:

  • Этап 1: Генерация коротких префиксов (начальных фрагментов рассуждений) для нескольких вариантов ответа.
  • Этап 2: Оценка качества этих префиксов с использованием внутренних метрик уверенности модели (internal confidence scores).
  • Этап 3: Доработка (completion) только наиболее перспективных кандидатов, а не всех сгенерированных путей.

Ключевые метрики и результаты

Метод демонстрирует, что даже небольшие сигналы уверенности на коротких префиксах могут существенно влиять на итоговое решение, особенно для задач, находящихся на «границе принятия решений» (decision boundary). Теоретический анализ показывает, что PreG расширяет маржу принятия решений при фиксированном вычислительном бюджете.

Параметр Стандартный Parallel TTS Prefix-Guided Sampling (PreG)
Стратегия генерации Полная генерация всех путей Генерация префиксов → отбор → доработка
Эффективность токенов Низкая (расход на плохие пути) Значительно выше (экономия ресурсов)
Качество ответа Базовый уровень Превосходит базовый уровень
Вычислительная нагрузка Высокая Снижена за счет раннего отсечения

Почему это важно

PreG решает фундаментальную проблему масштабируемости LLM: как получить более точные ответы, не увеличивая пропорционально затраты на инференс. Метод позволяет получать более качественные результаты при том же или меньшем количестве вычислений, что критически важно для коммерческого развертывания сложных моделей рассуждений в реальном времени.

Источник: arXiv cs.AI ↗