towhee-io/towhee

Towhee — это фреймворк, созданный для того, чтобы сделать конвейеры обработки нейронных данных простыми и быстрыми.

Прочее⭐ 3 450Pythonпоследний релиз: 1.1.3
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Towhee — это фреймворк для создания и оптимизации конвейеров обработки неструктурированных данных (текст, изображения, аудио, видео) с использованием современных ML-моделей и LLM.

Зачем нужен

Инструмент позволяет быстро прототипировать и развертывать ETL-пайплайны для извлечения признаков и подготовки данных для векторных баз данных. Он полезен для упрощения работы с мультимодальными данными и интеграции LLM в production-среду за счет высокой производительности бэкенда.

Что можно реализовать

  • Создание систем поиска по изображениям и тексту (например, с использованием CLIP).
  • Генерация эмбеддингов для предложений или документов для RAG-приложений.
  • Обнаружение дубликатов видео (video deduplication).
  • Обработка медицинских изображений и аудиофайлов с помощью готовых операторов.
  • Построение кастомных пайплайнов для извлечения данных из неструктурированных источников.

Ключевые возможности

  • Поддержка мультимодальности: работа с текстом, изображениями, видео, аудио и даже молекулярными структурами.
  • Более 140 готовых операторов (операций) для CV, NLP, аудио и медицины, включая SOTA модели.
  • Высокая производительность благодаря интеграции с Triton Inference Server, TensorRT, PyTorch и ONNX.
  • Pythonic API с цепочечным вызовом методов (method-chaining) и поддержкой схем данных.
  • Готовые ETL-пайплайны для RAG, поиска по изображениям и детекции копий видео.

👤 Кому подойдёт: AI-разработчики, инженеры данных и исследователи, работающие с мультимодальными данными и внедряющие LLM в production.

Релизы

1.1.3minor
🕐 34 мес назад · релиз на GitHub ↗

Релиз Towhee 1.1.3 добавляет поддержку версий Pydantic 1 и 2 для совместимости.

  • Added: Добавлена поддержка Pydantic 2.
  • Added: Обеспечена обратная совместимость с Pydantic 1.