Архитектура и возможности
IBM представила Granite Speech 5.0 2B — модель с 2 миллиардами параметров, работающую на базе LLM granite-4.0-1b-base с расширением контекста до 16k позиций через YaRN. Архитектура включает 16 блоков Conformer для кодирования аудио (с шагом 10 Гц) и LoRA-адаптеры для тонкой настройки. Модель обучалась на 390 000 часов публичного аудио и синтетических данных в течение 40 дней на 8 GPU H100.
Ключевые нововведения версии 5.0:
- Идентификация языка: возможность указать язык в промпте для улучшения точности.
- Ключевые слова: поддержка списков до 2000 терминов для смещения фокуса на имена, бренды и акронимы.
- Пунктуация: автоматическое добавление знаков препинания и заглавных букв (F1-мера выросла с 90.16 до 99.51).
- Мультиязычность: поддержка 6 языков, включая японский, португальский и испанский.
Бенчмарки и сравнение с конкурентами
На момент публикации (21 октября 2026 года) модель занимает 2-е место в Open ASR Leaderboard с средней ошибкой WER 5.68% на английском языке. Лидером остается Qwen3-ASR-1.7B (5.40%). В шумных условиях (FFASR) Granite Speech 5.0 также показывает высокие результаты, уступая Qwen3.
| Модель | Параметры | Open ASR Avg WER | FFASR Avg WER | Ключевые слова |
|---|---|---|---|---|
| Granite Speech 5.0 2B | 2B | 5.68% | 14.80% | Да (до 2000) |
| Qwen3-ASR-1.7B | 1.7B | 5.40% | 13.41% | Нет |
| Cohere Transcribe 03-2026 | 2.07B | 5.77% | 15.03% | Нет |
| Canary-Qwen-2.5B | 2.5B | 5.94% | — | Нет |
Обновление линейки Turbo CTC и 4.1 2B Plus
Параллельно IBM обновила две существующие модели. Granite Speech 5.0 Turbo CTC (470M параметров) теперь поддерживает 7 языков с нативной пунктуацией. Благодаря оптимизации графа пропускная способность выросла до 19,870 RTFx (было ~12,600). Модель 4.1 2B Plus (для диаризации) улучшила точность таймстампов (сдвиг уменьшился с 210.86 до 98.54 мс) и снизила WER для длинных аудио с 13.53% до 10.22%.
Деплой и лицензия
Модель распространяется под лицензией Apache 2.0. Она совместима с Transformers, vLLM, llama.cpp (рекомендуется квантование Q8_0) и mlx-audio для Apple Silicon. IBM рекомендует сегменты аудио длительностью до 2 минут для оптимальной работы.
Источник: MarkTechPost ↗