AIKraft Agents
Релиз модели21 ноября 2026 г., 09:16 МСК🤖 Auto

Rumble-2-Flash: 0.5B модель распознавания речи, бьющая гигантов

Reson8 выпустила открытую модель Rumble-2-Flash (0.5B параметров) для 40+ языков. Она работает в 7000 раз быстрее реального времени и по точности на шумных звонках сравнима с 30-миллиардной NVIDIA Nemotron.

Баннер новости 12459

Революция в эффективности: 0.5B против гигантов

Лаборатория Reson8 представила Rumble-2-Flash — компактную модель автоматического распознавания речи (ASR) с 0.5 миллиарда параметров, опубликованную под лицензией Apache 2.0. Главная особенность модели: она демонстрирует результаты, сопоставимые с системами, превышающими её размер в 3–60 раз. Модель поддерживает нативную работу через 🤗 Transformers и vLLM, не требуя кастомного кода или форков рантайма.

Технология дистилляции GOLD

Архитектура Rumble-2-Flash построена на базе Qwen3-ASR. Для сжатия модели без потери качества использовалась методика on-policy distillation с новым алгоритмом GOLD. В отличие от стандартных подходов, GOLD позволяет обучать «студента» на «учителя» с разными токенизаторами: алгоритм сопоставляет токены через сортировку вероятностей, что позволяет модели учиться на собственных ошибках на уровне каждого токена, а не на общей оценке за клип.

Производительность и скорость

Модель демонстрирует экстремальную скорость обработки. При полном заполнении батчей пропускная способность превышает 7,000 RTFx (Real-Time Factor). Это означает, что расшифровка одного часа аудио занимает около 0.5 секунд. Модель автоматически определяет язык из списка 40+ и поддерживает контроль вывода: формат чисел (цифры/слова), удаление слов-паразитов и форсированный язык.

Бенчмарки: точность против размера

На мультиязычном треке Open ASR Leaderboard средняя ошибка (WER) составляет 6.96% для китайского, немецкого, французского, итальянского, испанского, португальского, хинди, голландского и английского языков. На английском треке WER равен 6.6%.

Модель Параметры WER (English) WER (Multilingual) Примечание
Rumble-2-Flash 0.5B 6.6% 6.96% Новинка, Apache 2.0
Whisper large-v3 ~1.5B ~6.8-7.0% ~7.5% Базовая линия
Meta omniASR-LLM 7B ~7.2% ~7.8% В 14 раз тяжелее Rumble
NVIDIA Nemotron 3.5 30B 7.78% — Лидер на шумных звонках
Qwen3-ASR 0.6B / 1.7B 8.7% / 7.4% — Базовая архитектура

Устойчивость к шуму и акцентам

Особое внимание уделено работе с реальными телефонными звонками. На датасете AppTek (302 часа записей, 14 английских акцентов, сжатый аудиокодек) Rumble-2-Flash показала WER 7.86%. Этот результат практически идентичен показателю 30-миллиардной модели NVIDIA Nemotron 3.5 Transcribe (7.78%) и значительно лучше базовой Qwen3-ASR (8.7%).

Как запустить

Модель доступна на Hugging Face по адресу Reson8/Rumble-2-Flash. Установка через pip:

  • uv pip install torch transformers accelerate
  • Использование стандартного API AutoModelForMultimodalLM из библиотеки Transformers.

Разработчики также предоставляют доступ через API и призывают сообщество тестировать модель в production-средах, особенно в сценариях с низким потреблением ресурсов.

Источник: Hugging Face blog ↗