AIKraft Agents
Главная/Блог/Гайд/Ollama и Speech-модели: Как запустить…
Гайд8 мин чтения · 25 октября 2026 г.

Ollama и Speech-модели: Как запустить TTS локально на Mac

Ollama официально поддерживает генерацию речи. Разбираем модель Phonon от Gradium: скорость на Apple Silicon, выбор голосов, мультиязычность и интеграция с OpenAI API.

Ollama и Speech-модели: Как запустить TTS локально на Mac

Долгое время локальные LLM-ассистенты оставались «немой» силой. Вы могли попросить нейросеть написать код, проанализировать документ или создать сценарий, но получить ответ приходилось в виде текста. Это создавало барьер для людей с нарушениями зрения, для тех, кто предпочитает слушать контент в дороге или просто хочет освободить глаза для других задач. Однако ландшафт локального ИИ-деплоя меняется. Ollama, популярная платформа для запуска больших языковых моделей, наконец-то добавила поддержку генерации речи (Text-to-Speech, TTS). Это не просто технический апдейт, а шаг к созданию по-настоящему мультимодальных ассистентов, которые могут не только думать, но и говорить.

Первой моделью в этом новом формате стала Phonon — семейство небольших, но высокопроизводительных моделей от компании Gradium. Важно отметить, что на данный момент поддержка speech-моделей доступна на macOS, при этом разработчики уже анонсировали скорое появление поддержки Windows и Linux. Это стратегический ход: оптимизация под Apple Silicon позволяет достичь рекордной скорости генерации, используя уникальные возможности чипов M-серии.

01Почему именно Apple Silicon и MLX?

Ключ к скорости генерации речи в Ollama кроется в интеграции с MLX — фреймворком машинного обучения от Apple. MLX специально разработан для эффективного выполнения вычислений на чипах Apple Silicon (M1, M2, M3, M4 и их производные). В отличие от традиционных CPU-решений, MLX позволяет динамически распределять нагрузку между нейронным процессором (Neural Engine), GPU и CPU, минимизируя задержки.

Результаты бенчмарков впечатляют. На MacBook Pro с чипом M5 Max (предполагаемая будущая модель, используемая в тестировании) Ollama работает на 35% быстрее, чем собственное время выполнения (runtime) от самой Gradium. Это парадоксальная ситуация, когда платформа-агрегатор обходит специализированный инструмент создателя модели, благодаря глубокой оптимизации под железо.

Технические детали реализации также важны. Ollama запускает модель в формате bf16 (bfloat16), что обеспечивает баланс между точностью и скоростью. Для сравнения, эталная реализация Gradium (ptts) использует 8-битные веса на CPU, fp16 на Neural Engine и f32 на GPU. Несмотря на разницу в подходах, точность распознавания слов (Word Error Rate, WER) у Ollama полностью совпадает с референсной реализацией в Hugging Face Transformers. Это означает, что вы не теряете в качестве аудио, получая при этом преимущество в скорости.

💡
Совет для энтузиастов. Если вы используете Mac с чипом M-серии, убедитесь, что у вас установлена последняя версия Ollama (0.40.11 или новее). Именно эта версия содержит необходимые бэкенды для работы с MLX и speech-моделями. На старых версиях команда ollama run phonon может выдать ошибку отсутствия поддержки.

02Голоса и языки: что доступно прямо сейчас?

Модель Phonon — это не один универсальный движок, а целое семейство моделей, каждая из которых заточена под определенные языки или варианты использования. Это позволяет пользователям выбирать оптимальный размер модели и лицензию под свои задачи.

Доступные языки

Базовая модель phonon работает на английском языке. Однако для глобального использования Gradium выпустила специализированные версии для пяти основных языков:

  • Французский: phonon:40m-fr
  • Немецкий: phonon:40m-de
  • Испанский: phonon:40m-es
  • Португальский: phonon:40m-pt
  • Мультиязычная: phonon:40m-multilingual — поддерживает все пять языков в одной модели.
Ollama и Speech-модели: Как запустить TTS локально на Mac

Это открывает возможности для локального запуска голосовых помощников на родных языках без отправки данных в облачные API, что критически важно для соблюдения приватности.

Выбор голоса

Одна из самых приятных особенностей Phonon — разнообразие голосов. Вы можете выбрать один из предустановленных вариантов, используя флаг --voice в командной строке или параметр voice в API. Вот примеры доступных голосов и их характеристик:

  • Zoey: Американский акцент. Звучит естественно и современно. Пример: «So I went through the whole thread. Short version? Everyone agrees, and nobody wants another meeting.» (Длительность: 0:06)
  • Easton: Американский акцент. Более мужской, деловой тембр. (Длительность: 0:04)
  • Freya: Британский акцент. Классическое звучание, часто ассоциирующееся с премиальными сервисами. (Длительность: 0:04)
  • Hugh: Британский акцент. Глубокий, уверенный голос. (Длительность: 0:07)
  • Hadley: Еще один вариант, доступный через API.

Полный список голосов можно получить, выполнив команду ollama show phonon. Все голоса взяты из каталога Gradium, что гарантирует высокое качество синтеза.

⚠️
Важно о лицензировании. Базовая модель phonon выпущена под лицензией Apache 2.0, что позволяет ее свободное использование, в том числе в коммерческих продуктах. Однако модели размером 40M (phonon:40m-*) распространяются под лицензией CC BY-NC 4.0 (Creative Commons Non-Commercial). Это означает, что их можно использовать бесплатно для личных и исследовательских целей, но коммерческое применение требует отдельного соглашения с Gradium. Всегда проверяйте лицензию перед интеграцией в коммерческий продукт.

03Практическое применение: от чтения чатов до генерации WAV

Сила Ollama в простоте интеграции. Speech-модели можно использовать не только как самостоятельные инструменты, но и как часть конвейера обработки текста. Рассмотрим два самых популярных сценария использования.

1. Чтение ответов чат-моделей вслух

Представьте, что вы работаете с Gemma или другой LLM, которая генерирует длинные ответы. Вместо того чтобы читать их глазами, вы можете направить вывод модели напрямую в Phonon. Текст будет озвучиваться по мере поступления, что создает эффект «живого» диалога.

Пример команды для чтения факта о совах:

Ollama и Speech-модели: Как запустить TTS локально на Mac
terminalbash
ollama run gemma4 --hidethinking "Tell me a fun fact about owls in two sentences." | ollama run phonon

Здесь флаг --hidethinking у Gemma убирает внутренние рассуждения модели, оставляя только чистый ответ, который сразу же передается в TTS-движок. Это особенно полезно для создания голосовых помощников, которые могут читать новости, резюме документов или ответы на вопросы в реальном времени.

2. Сохранение аудио в файл

Если вам нужно сохранить озвученный текст, вы можете перенаправить вывод в файл. Ollama поддерживает генерацию аудио в формате WAV по умолчанию.

terminalbash
ollama run phonon "Save this to a file." > speech.wav

Или, если вы хотите интерактивно вводить текст, просто запустите ollama run phonon без аргументов. Вы сможете вводить строки в терминале, и каждая строка будет озвучиваться. Это отличный способ протестировать качество голоса или создать аудиокниги из локальных текстовых файлов.

📌
Факт о качестве. Генерируемое аудио имеет частоту дискретизации 24 кГц, моно-канал. Это стандарт, достаточный для человеческой речи, обеспечивающий хороший баланс между качеством и размером файла. Если вам нужен сырой поток данных, можно использовать формат PCM.

04Интеграция с OpenAI API: совместимость как преимущество

Один из самых сильных аргументов в пользу Phonon — полная совместимость с API OpenAI. Ollama эмулирует эндпоинт /v1/audio/speech, что означает, что любой код, написанный для использования TTS от OpenAI, может быть легко перенесен на локальный сервер Ollama. Вам нужно лишь изменить базовый URL и ключ API.

Это открывает двери для разработчиков, которые хотят заменить дорогие облачные сервисы на локальные решения, не переписывая всю архитектуру приложения. Ниже приведены примеры кода на разных языках.

Python (OpenAI SDK)

Используя официальный SDK, вы можете создать клиента, указав локальный адрес:

terminalpython
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama"
)

with client.audio.speech.with_streaming_response.create(
    model="phonon",
    voice="Zoey",
    input="Hello from Ollama.",
    response_format="wav"
) as response:
    response.stream_to_file("speech.wav")

Обратите внимание на параметр with_streaming_response. Он позволяет начать воспроизведение аудио сразу же, как только первые байты сгенерированы, не дожидаясь окончания всей фразы. Это критически важно для интерактивных приложений.

Ollama и Speech-модели: Как запустить TTS локально на Mac

JavaScript (Node.js)

Для веб-разработчиков доступен аналогичный пример на Node.js:

terminaljavascript
import fs from "node:fs";
import OpenAI from "openai";

const openai = new OpenAI({
  baseURL: "http://localhost:11434/v1",
  apiKey: "ollama"
});

const response = await openai.audio.speech.create({
  model: "phonon",
  voice: "Zoey",
  input: "Hello from Ollama.",
  response_format: "wav"
});

fs.writeFileSync("speech.wav", Buffer.from(await response.arrayBuffer()));

cURL и потоковая передача

Для быстрой проверки или интеграции в bash-скрипты можно использовать cURL. Важно отметить, что ответ потоково передается, что позволяет использовать инструменты вроде ffplay для мгновенного воспроизведения:

terminalbash
curl -sN http://localhost:11434/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{"model": "phonon", "input": "Playback starts right away."}' \
  | ffplay -nodisp -autoexit -loglevel error -

В этом примере флаг -sN в cURL отключает прогресс-бар и включает сырой вывод, который сразу же передается в плеер. Это демонстрирует низкую задержку (latency) системы.

💡
Совет по формату. По умолчанию Ollama возвращает аудио в формате WAV. Если вам нужен более компактный формат или сырые данные для дальнейшей обработки, используйте параметр "response_format": "pcm" в JSON-запросе. Это вернет 16-битные семплы без заголовков WAV.

05Что это значит на практике

Появление speech-моделей в Ollama знаменует собой переход от текстовых чат-ботов к полноценным голосовым ассистентам, работающим полностью локально. Для пользователей в России и других странах, где доступ к облачным API OpenAI или Google может быть ограничен или дорог, это становится особенно актуальным. Локальный запуск Phonon на Mac позволяет:

  1. Обеспечить приватность: Текст никогда не покидает ваше устройство. Нет риска утечки данных через сторонние API.
  2. Снизить затраты: Нет необходимости платить за токены или минуты генерации речи. Вы платите только за электроэнергию.
  3. Получить контроль: Вы можете выбирать голоса, языки и форматы вывода, не завися от ограничений облачных провайдеров.
  4. Интегрировать легко: Совместимость с OpenAI API означает, что вы можете использовать готовые библиотеки и инструменты, не изобретая велосипед.

Хотя на данный момент поддержка ограничена macOS, активное развитие платформы и планы по выпуску версий для Windows и Linux делают Ollama одним из самых перспективных инструментов для локального ИИ. Если у вас есть Mac с чипом M-серии, стоит уже сейчас попробовать Phonon, чтобы оценить качество и скорость генерации речи. Это простой шаг, который может кардинально изменить ваш опыт взаимодействия с искусственным интеллектом.

Для начала работы просто обновите Ollama до версии 0.40.11+, выполните ollama pull phonon и запустите первую команду. Добро пожаловать в эру голосового локального ИИ.

Источник: Ollama ↗