SWivid/F5-TTS

Official code for "F5-TTS: A Fairytaler that Fakes Fluent and Faithful Speech with Flow Matching"

Аудио⭐ 15 262Pythonпоследний релиз: 1.1.22
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

F5-TTS — это инструмент для синтеза речи (TTS), использующий диффузионные трансформеры и flow matching для создания быстрой и качественной речи.

Зачем нужен

Инструмент решает задачу преобразования текста в речь с высокой естественностью и точностью, поддерживая как быстрое инференс, так и обучение моделей. Он полезен для разработчиков, которым нужна эффективная альтернатива традиционным моделям TTS с поддержкой различных аппаратных платформ.

Что можно реализовать

  • Генерация озвучки для видео, подкастов или аудиокниг
  • Создание голосовых ассистентов и интерактивных систем
  • Локализация контента с сохранением стиля оригинального голоса
  • Исследование в области генеративного аудио и speech synthesis

Ключевые возможности

  • Использование Diffusion Transformer с ConvNeXt V2 для ускорения обучения и инференса
  • Поддержка стратегии Sway Sampling для улучшения качества генерации
  • Нативная поддержка NVIDIA GPU, AMD GPU, Intel GPU и Apple Silicon
  • Готовые сборки через Docker и установка через pip
  • Оптимизированный runtime с Triton и TensorRT-LLM для высокой производительности

👤 Кому подойдёт: разработчики, исследователи в области AI, инженеры по машинному обучению

Релизы

1.1.22patch
🕐 2 мес назад · релиз на GitHub ↗

Исправлено распределение фиксированной длительности по чанкам для предотвращения экспоненциального роста вычислений.

  • Fixed: Исправлено распределение фиксированной длительности по чанкам, что устраняло проблему экспоненциального роста вычислений (N× duration blow-up).
1.1.21patch
🕐 2 мес назад · релиз на GitHub ↗

Исправлена уязвимость path traversal в Gradio-хендлерах и обновлена поддержка AMD ROCm до версии 7.2.

  • Fixed: Исправлена уязвимость path traversal в обработчиках Gradio для дообучения.
  • Added: Обновлена установка AMD ROCm до версии 7.2 для поддержки RDNA 3.5/4.
  • Added: Обновлено требование к версии Gradio до 6.15.0 и выше.
1.1.20patch
🕐 5 мес назад · релиз на GitHub ↗

Исправлена ошибка с кэшированием в моделях DiT, MMDiT и UNetT, а также ограничена версия Gradio для предотвращения зависания интерфейса.

  • Fixed: Переписана логика кэширования в классах DiT, MMDiT и UNetT: теперь используется ленивая инициализация, что предотвращает сбои при копировании EMA во время обучения.
  • Fixed: Версия библиотеки Gradio ограничена значением <6.11, чтобы избежать зависания пользовательского интерфейса.