Полная автономность и скорость отклика
Ming Voice — это open-source решение, которое позволяет запускать голосового ассистента непосредственно на вашем ПК. В основе лежит модель inclusionAI/Ming-3.0-audio-tiny, работающая в связке с аудио LLM (9.3B MoE / 2.7B active parameters). Ключевая особенность — отсутствие облачной инфраструктуры: аудио не покидает вашу машину. При использовании инструментов (поиск, погода) наружу уходят только текстовые запросы к DuckDuckGo, Brave Search или Open-Meteo.
Система демонстрирует впечатляющую скорость: медианное время от конца вашей фразы до начала ответа составляет всего ~0.23 секунды. Это достигается за счет генерации ответа в паузу между репликами (0.2 с), когда модель уже уверена, что вы закончили говорить, благодаря алгоритму Smart Turn v3.
Железо и производительность
Проект оптимизирован для AMD Radeon, но поддерживает и NVIDIA. Для работы требуется GPU с 16+ ГБ VRAM. На тестовой конфигурации с Radeon RX 7900 XTX (24 ГБ) модель потребляет около 20.5 ГБ VRAM в формате bf16 (или 12.5 ГБ с int8 experts). Производительность на GPU оценивается в ~115 токенов/с для «Thinker» и ~0.3x real-time для синтеза речи.
| Параметр | Значение / Характеристика |
|---|---|
| Базовая модель | inclusionAI/Ming-3.0-audio-tiny (Speech-to-Speech) |
| Архитектура LLM | 9.3B MoE (2.7B активных параметров) |
| Задержка (Latency) | ~0.23 с (медиана) от конца речи до звука |
| Потребление VRAM | ~20.5 ГБ (bf16) / ~12.5 ГБ (int8 experts) |
| Скорость генерации | ~115 токенов/с (Thinker), 13 мс на 80 мс аудио (Talker) |
| Поддержка GPU | AMD RX 6800+ (основная), NVIDIA RTX 30/40/50 (экспериментально) |
| Языки | Английский, Китайский |
Интеграция с умным домом и функциями
Ассистент выходит за рамки простого чата. Он интегрируется с Home Assistant (управление светом, розетками, климатом, роботами-пылесосами) и Jellyfin. Поддерживаются сложные сценарии: управление устройствами по комнатам, отложенные команды («выключи свет через 20 минут») и контекстные уточнения («и в гостиной тоже»). Для безопасности рискованные действия (открытие гаража) требуют подтверждения.
Также реализованы режим «Jarvis» (британский робот-дворецкий с характерной интонацией), клонирование голоса (5–15 секунд образца), распознавание своего голоса для прерывания (barge-in) и работа через OpenAI-compatible API.
Установка и совместимость
Программа работает на Linux (Arch, Ubuntu, Fedora и др.) и Windows 11 (через WSL2). Установка автоматизирована скриптами, которые скачивают модель (~20 ГБ), настраивают Python-окружение и PyTorch (ROCm 7.2 для AMD или CUDA 12.8 для NVIDIA). На Linux требуется стандартный драйвер amdgpu, на Windows — драйвер Adrenalin с поддержкой WSL. Доступен доступ через веб-интерфейс и мобильное приложение по локальной сети.
Источник: Github ↗