AIKraft/AI/Поиск…⌘KВойти

ggml-org/whisper.cpp

Порт модели Whisper от OpenAI на C/C++

Инференс⭐ 53 816C++последний релиз: v1.9.4
Открыть на GitHub ↗

Что это за инструмент

whisper.cpp — это высокопроизводительная реализация модели распознавания речи OpenAI Whisper на чистом C/C++, оптимизированная для работы на CPU и GPU без внешних зависимостей.

Зачем нужен

Инструмент позволяет выполнять локальное распознавание аудио в реальном времени с минимальным потреблением памяти, что критично для устройств с ограниченными ресурсами. Он полезен для создания приватных голосовых помощников и интеграции ASR в приложения, где нельзя использовать облачные API.

Что можно реализовать

  • Создание офлайн-голосовых ассистентов на мобильных устройствах (iOS/Android)
  • Локальная транскрибация аудиофайлов на серверах без интернета
  • Встраивание распознавания речи в игры или приложения на Raspberry Pi
  • Быстрый прототипинг голосовых интерфейсов с использованием C-style API

Ключевые возможности

  • Поддержка Apple Silicon (Metal/Core ML), NVIDIA GPU, AMD ROCm и OpenVINO
  • Возможность квантования моделей (INT8/INT4) для экономии памяти и ускорения работы
  • Нулевые аллокации памяти во время выполнения (zero memory allocations at runtime)
  • Кроссплатформенность: работает на Mac, Linux, Windows, Android, iOS и WebAssembly
  • Полная автономность: не требует Python или внешних библиотек для инференса

👤 Кому подойдёт: разработчики C/C++, embedded-инженеры, специалисты по безопасности данных, создающие локальные AI-решения

Релизы

v1.9.4minor
🕐 10 дн назад · релиз на GitHub ↗

Релиз whisper.cpp v1.9.4: поддержка Windows on ARM, оптимизации Metal для чипов M3/M2, улучшения SYCL и CUDA, обновление ggml до 0.23.0.

  • Added: Добавлена поддержка сборки и релизов для Windows on ARM (WoA).
  • Added: Значительно улучшена производительность Metal: добавлены тонкие настройки (fa-vec) для чипов M3 Max, M2 Pro, M2 Max, M1 Ultra, M1, A18 Pro и включена поддержка Metal 4.0 Tensor API.
  • Added: Обновлен движок ggml до версии 0.23.0 с оптимизациями SYCL, CUDA (MoE, sparse FA) и Vulkan.
  • Fixed: Исправлено поведение encoder_begin_callback: теперь он вызывается до автоопределения языка.
  • Fixed: Устранены утечки памяти в Metal, ошибки инициализации на CPU (s390x) и краши в WebGPU при некорректных смещениях.
v1.9.2minor
🕐 1 мес назад · релиз на GitHub ↗

Релиз v1.9.2: улучшена поддержка VAD, добавлены сегменты речи в API, исправлена работа с CJK и Ruby-биндингами.

  • Added: Внутренние сегменты речи из VAD теперь доступны через API, включая поддержку Ruby.
  • Added: Функция voice_length() стала aware к UTF-8 для корректной обработки китайских, японских и корейских символов.
  • Added: Добавлена поддержка модели Parakeet в скрипт сборки xcframework и добавлена проверка hparams при загрузке.
  • Fixed: Исправлено отображение временных меток токенов относительно оригинального времени при включенном VAD.
  • Fixed: Устранено лишнее пространство в начале текстового вывода и исправлена парсинг аргументов VAD.
v1.9.1patch
🕐 3 мес назад · релиз на GitHub ↗

Выпуск v1.9.1: исправление конфигурации сборки для Windows-BLAS.

  • Fixed: Добавлены флаги GGML_NATIVE=OFF и GGML_BMI2=OFF для сборки Windows-BLAS.