pezzolabs/pezzo

🕹️ Платформа LLMOps с открытым исходным кодом, ориентированная на разработчиков, для упрощения дизайна промптов, управления версиями, мгновенной доставки, совместной работы, отладки, наблюдаемости и многого другого.

LLMOps⭐ 3 273TypeScriptпоследний релиз: v0.9.2
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Pezzo — это open-source LLMOps-платформа для управления жизненным циклом промптов, мониторинга работы LLM и оптимизации затрат.

Зачем нужен

Инструмент помогает разработчикам централизованно хранить и версионировать промпты, отслеживать метрики (latency, cost) и устранять ошибки в продакшене. Это позволяет сократить расходы на LLM до 90% за счет кэширования и улучшить стабильность AI-приложений.

Что можно реализовать

  • Централизованное управление версиями промптов для разных моделей LLM
  • Отладка и трассировка запросов (observability) для выявления узких мест
  • Снижение затрат на API-вызовы через встроенное кэширование
  • Коллаборативная работа команды над улучшением качества промптов

Ключевые возможности

  • Полная поддержка Node.js, Python и LangChain через официальные клиенты
  • Встроенное кэширование для ускорения ответов и экономии средств
  • Готовая инфраструктура на базе PostgreSQL, ClickHouse и Redis (Docker Compose)
  • Лицензия Apache 2.0 и открытый исходный код
  • Возможность локального развертывания (self-hosted) или использования облачной версии

👤 Кому подойдёт: Разработчики (Node.js, Python), AI-инженеры и команды, внедряющие LLM в свои продукты

Релизы

v0.9.2patch
🕐 28 мес назад · релиз на GitHub ↗

Исправлена миграция для зашифрованных ключей в версии v0.9.2.

  • Fixed: Исправлена миграция зашифрованных ключей.