Революция в эффективности: 0.5B против гигантов
Лаборатория Reson8 представила Rumble-2-Flash — компактную модель автоматического распознавания речи (ASR) с 0.5 миллиарда параметров, опубликованную под лицензией Apache 2.0. Главная особенность модели: она демонстрирует результаты, сопоставимые с системами, превышающими её размер в 3–60 раз. Модель поддерживает нативную работу через 🤗 Transformers и vLLM, не требуя кастомного кода или форков рантайма.
Технология дистилляции GOLD
Архитектура Rumble-2-Flash построена на базе Qwen3-ASR. Для сжатия модели без потери качества использовалась методика on-policy distillation с новым алгоритмом GOLD. В отличие от стандартных подходов, GOLD позволяет обучать «студента» на «учителя» с разными токенизаторами: алгоритм сопоставляет токены через сортировку вероятностей, что позволяет модели учиться на собственных ошибках на уровне каждого токена, а не на общей оценке за клип.
Производительность и скорость
Модель демонстрирует экстремальную скорость обработки. При полном заполнении батчей пропускная способность превышает 7,000 RTFx (Real-Time Factor). Это означает, что расшифровка одного часа аудио занимает около 0.5 секунд. Модель автоматически определяет язык из списка 40+ и поддерживает контроль вывода: формат чисел (цифры/слова), удаление слов-паразитов и форсированный язык.
Бенчмарки: точность против размера
На мультиязычном треке Open ASR Leaderboard средняя ошибка (WER) составляет 6.96% для китайского, немецкого, французского, итальянского, испанского, португальского, хинди, голландского и английского языков. На английском треке WER равен 6.6%.
| Модель | Параметры | WER (English) | WER (Multilingual) | Примечание |
|---|---|---|---|---|
| Rumble-2-Flash | 0.5B | 6.6% | 6.96% | Новинка, Apache 2.0 |
| Whisper large-v3 | ~1.5B | ~6.8-7.0% | ~7.5% | Базовая линия |
| Meta omniASR-LLM | 7B | ~7.2% | ~7.8% | В 14 раз тяжелее Rumble |
| NVIDIA Nemotron 3.5 | 30B | 7.78% | — | Лидер на шумных звонках |
| Qwen3-ASR | 0.6B / 1.7B | 8.7% / 7.4% | — | Базовая архитектура |
Устойчивость к шуму и акцентам
Особое внимание уделено работе с реальными телефонными звонками. На датасете AppTek (302 часа записей, 14 английских акцентов, сжатый аудиокодек) Rumble-2-Flash показала WER 7.86%. Этот результат практически идентичен показателю 30-миллиардной модели NVIDIA Nemotron 3.5 Transcribe (7.78%) и значительно лучше базовой Qwen3-ASR (8.7%).
Как запустить
Модель доступна на Hugging Face по адресу Reson8/Rumble-2-Flash. Установка через pip:
uv pip install torch transformers accelerate- Использование стандартного API
AutoModelForMultimodalLMиз библиотеки Transformers.
Разработчики также предоставляют доступ через API и призывают сообщество тестировать модель в production-средах, особенно в сценариях с низким потреблением ресурсов.
Источник: Hugging Face blog ↗
