AIKraft Agents

comet-ml/opik

Отлаживайте, оценивайте и мониторьте свои LLM-приложения, RAG-системы и агентные воркфлоу с помощью комплексного трейсинга, автоматических оценок и готовых для продакшена дашбордов.

LLMOps⭐ 23 210Pythonпоследний релиз: 2.2.142
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Opik — это open-source платформа для наблюдаемости (observability), оценки и оптимизации LLM-приложений, RAG-систем и агентов.

Зачем нужен

Инструмент помогает разработчикам отлаживать, тестировать и мониторить генеративные AI-приложения на всех этапах: от прототипа до продакшена. Он устраняет неопределенность в разработке за счет детального трейсинга, автоматизированных оценок и оптимизации промптов.

Что можно реализовать

  • Отладка и мониторинг RAG-систем и чат-ботов с помощью детального трейсинга вызовов LLM
  • Автоматизированная оценка качества ответов моделей с использованием LLM-as-a-judge и кастомных метрик
  • Оптимизация промптов и агентов с помощью специализированного SDK Opik Agent Optimizer
  • Обеспечение безопасности AI через встроенные функции Opik Guardrails

Ключевые возможности

  • Глубокий трейсинг вызовов LLM, логирование диалогов и активности агентов
  • Нативная интеграция с популярными фреймворками, включая Google ADK, Autogen и Flowise AI
  • Возможность аннотирования трейсов и спанов баллами обратной связи через SDK или UI
  • Промпт-плейграунд для экспериментов с моделями и промптами
  • Готовые продакшн-дашборды для масштабного мониторинга

👤 Кому подойдёт: разработчики AI-приложений, ML-инженеры, команды, работающие с LLM, RAG и агентами

Релизы

2.2.142patch
🕐 14 ч назад · релиз на GitHub ↗

Исправления в SDK и бэкенде: обработка ошибок LLMJudge, валидация имён проектов и оптимизация чтения трасс.

  • Fixed: SDK теперь корректно обрабатывает некорректные вердикты LLMJudge как ошибки парсинга.
  • Fixed: Бэкенд блокирует создание проектов с именами длиннее 150 символов.
  • Fixed: Оптимизировано чтение сообщений в трэдах: теперь данные берутся только из первой и последней трассы.
  • Added: В плейграунде появилась возможность открывать любые LLM-спаны.
  • Обновлен базовый образ Docker до Python 3.12.16-slim.
2.2.141patch
🕐 17 ч назад · релиз на GitHub ↗

Исправления SDK и бэкенда, ограничение токенов Gemini 4 Argon, обновление зависимостей и инструментов фронтенда.

  • Fixed: Исправлена работа агента-судьи, который теперь отправляет вердикт через инструмент.
  • Fixed: Ограничено максимальное количество выходных токенов для Gemini 4 Argon значением 32 768.
  • Fixed: Устранена ошибка, позволяющая оценивать более 1000 потоков, и исправлена синхронизация кэша дедупликации.
  • Added: Добавлена возможность запроса элементов экспериментов по всем экспериментам набора данных.
  • Фронтенд переведен на Vite 8 и Vitest 5, а также обновлены зависимости Zod и @hookform/resolvers.
2.2.140minor
🕐 вчера · релиз на GitHub ↗

Исправления бэкенда, поддержка Gemini/Vertex AI в UI, обновление зависимостей и улучшена стабильность экспорта.

  • Added: Добавлена поддержка моделей Gemini и Vertex AI в панели настроек каталога.
  • Fixed: Исправлена обработка span ID в разных проектах и сохранение пакетов OTel с существующими трассами.
  • Fixed: Улучшена работа CLI: теперь корректно сообщается об ошибках экспорта трасс.
  • Fixed: Исправлено ценообразование для моделей с заглавными буквами и нормализация вердиктов джуджей.
  • Обновлены зависимости, включая security-патчи для litellm, uuid и Sentry, а также образы базовых окружений.
2.2.139minor
🕐 2 дн назад · релиз на GitHub ↗

Исправлена работа LLM-судей для GPT-6 и Claude 4.7+, добавлена фильтрация трасс по комментариям и поиск в тредах.

  • Added: Добавлена фильтрация трасс и тредов по комментариям в интерфейсе и SDK.
  • Added: В боковой панели тредов реализован поиск по содержимому.
  • Added: Обновлены цены моделей и синхронизированы определения провайдеров.
  • Fixed: Исправлена ошибка отправки параметров отказа от сэмплинга для GPT-6 и Claude 4.7+/5.x.
  • Fixed: Устранён крах страницы при удалении iframe Ollie и ошибка сравнения структур в SDK.
  • Fixed: Обновлён ClickHouse до версии 26.3.62.3 для устранения уязвимости CVE-2026-116366.
2.2.138patch
🕐 3 дн назад · релиз на GitHub ↗

Исправления в SDK и бэкенде: поддержка детализации затрат, обработка таймаутов и исправление ошибок при создании проектов и версий датасетов.

  • Fixed: Добавлена поддержка детализации затрат для span.
  • Fixed: Исправлена ошибка «Project already exists» при запуске датасета с несколькими промптами.
  • Fixed: SDK теперь корректно обрабатывает нулевой таймаут flush как истекший бюджет.
  • Fixed: Устранены проблемы с deadlock при создании первой версии датасета.
  • Fixed: Обновлены уязвимые зависимости (six) в фронтенде.
2.2.137patch
🕐 6 дн назад · релиз на GitHub ↗

Исправлена работа парсера LLM-judge в TS SDK и улучшена логика поиска потоков на бэкенде.

  • Fixed: Исправлена ошибка в TS LLM-judge парсере SDK, теперь корректно обрабатываются повторяющиеся идентичные JSON-объекты.
  • Fixed: На бэкенде исправлена логика поиска потоков: теперь при выборе потока корректно сохраняются все связанные с ним трассировки.
2.2.135patch
🕐 6 дн назад · релиз на GitHub ↗

Исправлена работа с OpenAI Responses API, обновлены цены моделей и улучшена производительность загрузки трасс.

  • Fixed: Исправлена поддержка моделей OpenAI с интерфейсом Responses-only и улучшена логика фильтрации устаревших моделей.
  • Fixed: В SDK для Google ADK 2.13.0 исправлено сохранение корневого агента в качестве трассы.
  • Added: Обновлён файл с ценами моделей и синхронизированы определения провайдеров.
  • Added: Оптимизирована производительность бэкенда: ограничена загрузка трасс потоками чтения в зависимости от их недель.
  • Fixed: Исправлено прокручивание вложений в боковой панели потока вместе с сообщениями.
2.2.134patch
🕐 6 дн назад · релиз на GitHub ↗

Исправления в SDK для LLMJudge и миграций БД, оптимизация поиска потоков и документация интеграций.

  • Fixed: SDK теперь безопасно обрабатывает неподдерживаемые числовые утверждения в LLMJudge.
  • Fixed: Бэкенд: поиск по потокам выполняется вне финальной стадии и один раз на запрос.
  • Fixed: SDK корректно обрабатывает пустой ключ OPIK_API_KEY как неконфигурированный.
  • Fixed: Процесс завершается с ошибкой при сбое миграции базы данных.
  • Added: Добавлена страница документации по интеграции с Pixeltable.
2.2.133patch
🕐 7 дн назад · релиз на GitHub ↗

Исправлен механизм переключения адресов у LLM-клиентов без повторных запросов, улучшен UI аннотатора и выбор параметров reasoning.

  • Fixed: LLM-клиенты теперь корректно переключаются на следующий адрес при сбое, не повторяя запросы.
  • Added: В правилах онлайн-оценок добавлена поддержка выбора уровня усилий (reasoning effort) для OpenAI и OpenRouter.
  • Added: Упрощён интерфейс карточки аннотатора и предпросмотра, улучшено взаимодействие с чатом Ollie.
2.2.131patch
🕐 8 дн назад · релиз на GitHub ↗

Исправления в бэкенде и SDK: улучшена обработка ошибок, кэширование и переключение моделей.

  • Fixed: Исправлена логика обработки ошибок провайдеров: тела ошибок больше не дублируются в логах при повторных попытках.
  • Fixed: Улучшено переключение моделей: интерфейс корректно считывает уровни нагрузки, отображаемые в панели.
  • Fixed: В SDK добавлена тарификация для каждого уровня размера промпта и записей в кэш на 1 час для всех провайдеров.
  • Fixed: Оптимизирована работа со стримингом: ожидание заголовков ограничено таймаутом чтения, повторные попытки выполняются только при временных сбоях.
2.2.130patch
🕐 8 дн назад · релиз на GitHub ↗

Исправления производительности бэкенда, валидации заголовков провайдеров и обработки ошибок OpenAI.

  • Fixed: Оптимизирована пагинация перед агрегацией данных на бэкенде.
  • Fixed: Открытый транспорт Responses API теперь сохраняется, а ошибки OpenAI парсятся с дополнительными полями.
  • Fixed: Заголовки провайдеров больше не выводятся в логи, а их кастомные значения валидируются на фронтенде.
  • Added: Пользователи с неподтверждённой почтой перенаправляются на страницу верификации Comet.
2.2.129patch
🕐 8 дн назад · релиз на GitHub ↗

Исправления бэкенда: оптимизация запросов, устранение блокировок и синхронизация моделей.

  • Fixed: Оптимизировано чтение фильтров трасс в запросе KPI-карточек проекта.
  • Fixed: Устранена проблема с блокировкой полезной нагрузки спанов из-за повторных попыток.
  • Fixed: Исправлены замечания по коду бэкенда Python.
  • Added: Обновлён файл с ценами моделей.
  • Синхронизированы определения моделей провайдеров и обновлена спецификация OpenAPI.
2.2.128minor
🕐 8 дн назад · релиз на GitHub ↗

В Opik 2.2.128 добавлены действия для промптов в Playground: дублирование вариантов, создание пустого варианта и сохранение текстовых/чат-промптов.

  • Added: Добавлена возможность дублирования любого варианта промпта в Playground.
  • Added: Реализована функция создания пустого варианта (blank Add variant).
  • Added: Внедрена возможность загрузки и сохранения текстовых и чат-промптов.
2.2.127patch
🕐 9 дн назад · релиз на GitHub ↗

Исправлено принудительное использование шлюза для LLM-запросов в Studio и добавлена опциональная изоляция сетевого исполнителя.

  • Fixed: Зафиксировано использование шлюза для LLM-вызовов в Studio.
  • Added: Добавлена опциональная изоляция сетевого исполнителя.
2.2.125minor
🕐 9 дн назад · релиз на GitHub ↗

Исправлена работа онлайн-оценок для новых моделей, добавлена модель данных для политик guardrail и улучшена очистка проектов.

  • Fixed: Исправлена работа онлайн-оценок (judges) в режиме инструментов для GPT-5.4+, Claude 5.5 и Gemini 3.
  • Added: Добавлена модель данных для политик guardrail на бэкенде.
  • Fixed: Теперь при удалении проекта корректно удаляются связанные трассировки и спаны.
  • Fixed: Исправлено отображение длинных сообщений в потоках: они теперь переносятся, а не обрезаются слева.
  • Fixed: Обновлена зависимость filelock до версии 4 для устранения уязвимостей безопасности.
2.2.124minor
🕐 9 дн назад · релиз на GitHub ↗

Исправлено применение политик назначения для всех провайдеров и медиа, добавлена панель настроек для Anthropic и OpenAI, устранены несовместимые параметры для Gemini 3+.

  • Fixed: Исправлено применение политик назначения ко всем провайдерам, медиа и вебхукам.
  • Added: Добавлена универсальная панель настроек для моделей Anthropic и OpenAI на основе каталога моделей.
  • Fixed: Бэкенд теперь корректно отбрасывает настройки сэмплирования и штрафы для моделей Gemini 3+ и Vertex AI, которые их не поддерживают.
2.2.123patch
🕐 9 дн назад · релиз на GitHub ↗

Исправлена рендеринг шаблонов промптов в изолированной среде, добавлен режим виджета Ollie на дашбордах и устранены уязвимости ОС.

  • Fixed: Исправлен рендеринг шаблонов промптов через изолированную среду шаблонов.
  • Added: Добавлен режим виджета Ollie для использования на дашбордах.
  • Fixed: Устранены уязвимости операционной системы за счёт фиксации базовых образов.
2.2.121patch
🕐 10 дн назад · релиз на GitHub ↗

Исправления в Playground, валидация URL провайдеров, устойчивость Redis и изолированного исполнителя.

  • Fixed: Добавлена валидация базовых URL провайдеров LLM и требование учётных данных при их изменении.
  • Fixed: Исправлена работа Playground: запуск по Cmd/Ctrl+Enter, показ экспериментов в логах и экран восстановления при сбое.
  • Fixed: Улучшена стабильность бэкенда: корректный подсчёт трасс на главной странице и отказоустойчивость Redis и изолированного исполнителя.
  • Fixed: Исправлены мелкие ошибки интерфейса: скрытие колонок, открытие страниц в правильном проекте и обработка кликов.
2.2.120minor
🕐 10 дн назад · релиз на GitHub ↗

Обновление Opik: новые правила оценки, фильтры, исправления цен и SDK.

  • Added: Добавлены стартовые карточки для новых правил онлайн-оценки.
  • Added: Вкладка тредов теперь поддерживает фильтрацию по окружению.
  • Added: Появился пользовательский интерфейс аннотатора для очередей аннотирования.
  • Fixed: Исправлено ценообразование для OTel-спанов с провайдером в виде хоста API.
  • Fixed: SDK теперь корректно поддерживает Together 3.x и строит ссылки UI из конфигурации.
2.2.119patch
🕐 13 дн назад · релиз на GitHub ↗

Исправления в SDK для Gemini и OpenAI, фиксы бэкенда и UI, а также обновления документации и моделей.

  • Fixed: Исправлен подсчёт токенов (thinking и tool-use) для Gemini в TypeScript SDK.
  • Fixed: Устранена проблема разделения параллельных вызовов инструментов в потоковой обработке OpenAI.
  • Fixed: Исправлена обработка повторных доставок экспериментов на бэкенде и корректное отображение результатов в UI.
  • Added: Обновлён файл цен моделей и синхронизированы определения моделей провайдеров.
  • Added: Добавлен пример создания агента для LangChain v1 и документация по настройке OTEL.
2.2.118minor
🕐 13 дн назад · релиз на GitHub ↗

В Opik 2.2.118 улучшена discoverability виджетов: теперь редактирование дашборда и виджеты Ollie доступны через функцию добавления виджетов.

  • Added: В интерфейс добавления виджетов интегрированы функции редактирования дашборда и виджеты Ollie, что упрощает их поиск и использование.
2.2.117patch
🕐 14 дн назад · релиз на GitHub ↗

Исправления UI, обновление зависимостей, улучшение AI-labels и усиление безопасности Nginx.

  • Fixed: Восстановлена кликабельность узлов графа агентов в интерфейсе после обновления Mermaid.
  • Fixed: Исправлена логика отображения моделей в пикере Gemini и корректное скрытие моделей-преемников.
  • Fixed: Устранена уязвимость обхода блокировок в Nginx путем канонизации внутренних путей.
  • Added: Расширены метрики AI-labels: добавлены цифровые двойники, счетчики задач и показатели CPU.
  • Fixed: Обновлена библиотека sanitize-html для устранения уязвимостей безопасности.
2.2.116patch
🕐 14 дн назад · релиз на GitHub ↗

Исправлена ошибка стриминга при превышении лимита размера, оптимизированы запросы к Redis и обновлены зависимости.

  • Fixed: Исправлен сбой при записи спанов и трасс, если размер полезной нагрузки превышал max_query_size.
  • Added: Добавлены обучающие материалы по метрикам Judge и их выравниванию.
  • Added: Оптимизирована производительность: чтение оценок и размеров проектов теперь ограничено неделями спанов.
  • Fixed: Устранены замечания ревью в коде Redis Sentinel.
  • Обновлены зависимости certifi и litellm с учетом требований безопасности.
2.2.115patch
🕐 14 дн назад · релиз на GitHub ↗

Исправлена работа моделей с рассуждениями и обновлены модели онлайн-оценок по умолчанию.

  • Fixed: Исправлено ограничение для моделей OpenAI с функцией рассуждения: теперь поддерживается не менее 16 токенов вывода.
  • Fixed: Модели OpenAI и OpenRouter для онлайн-оценок по умолчанию заменены на GPT 5.5.
  • Автоматически обновлены спецификация OpenAPI и код Fern.
2.2.114minor
🕐 14 дн назад · релиз на GitHub ↗

Добавлена поддержка Redis Sentinel, обновлён редактор правил онлайн-оценки и исправлены мелкие баги UI.

  • Added: Добавлена поддержка Redis Sentinel для повышения отказоустойчивости бэкенда.
  • Added: Реализована новая боковая панель редактора правил онлайн-оценки в интерфейсе.
  • Fixed: Исправлено дублирование элемента prompt на вкладке конфигурации экспериментов.
  • Fixed: Увеличено время ожидания ответа при проверке оценки Python-правил в e2e-тестах.
  • Added: Настройки отклонения в маршруте Responses теперь загружаются из каталога.
2.2.113patch
🕐 15 дн назад · релиз на GitHub ↗

Исправления в Playground, метриках и рефакторинг ParamResolver.

  • Fixed: Playground блокирует запуски при пустом наборе данных или тестовом наборе.
  • Fixed: Исправлено ложное сообщение об отсутствии утверждений при отсутствии результатов теста.
  • Fixed: Исправлено дублирование сохранения в библиотеку промптов при двойном клике.
  • Fixed: Оценки, добавленные вручную, теперь учитываются в метриках рабочего пространства.
  • Added: Проверка моделей теперь проверяет каждый параметр, заявленный в каталоге.
2.2.112minor
🕐 15 дн назад · релиз на GitHub ↗

Обновление синхронизации моделей, исправление тестов и UI-улучшения в Opik.

  • Added: Улучшена синхронизация моделей: теперь параметры пишутся из LiteLLM и OpenRouter, а новые модели тестируются через бэкенд.
  • Fixed: Исправлено поведение тестов: теперь они корректно завершаются при сбое судьи, переключаясь на другой провайдер.
  • Fixed: Панель OpenRouter теперь динамически адаптируется под поддерживаемые параметры конкретной модели.
  • Fixed: В Playground исправлена потеря несохранённых изменений в библиотеке промптов при выходе.
  • Added: Рефакторинг: глобальный переключатель заменил список разрешённых рабочих пространств для пользовательских графиков.
2.2.111minor
🕐 15 дн назад · релиз на GitHub ↗

Оптимизация производительности запросов к LLM, маршрутизация OpenTelemetry и скрытие внутренних трасс в UI.

  • Added: Маршрутизация трасс OpenTelemetry в проекты на основе атрибута opik.project_name.
  • Added: В интерфейсе появилась возможность скрывать внутренние трассы в сообщениях потока с помощью переключателя и бейджа.
  • Added: Рефакторинг: единый ParamResolver теперь формирует все запросы к LLM из каталога.
  • Added: Подпись событий EventBridge PutEvents с использованием учетных данных SageMaker.
  • Added: Оптимизация производительности: ограничение чтения спанов на уровне проекта по количеству недель.
  • Fixed: Обновление зависимости sanitize-html до версии 2.18.0 для устранения уязвимостей.
2.2.110minor
🕐 15 дн назад · релиз на GitHub ↗

Релиз Opik 2.2.110: добавлена система AI-меток, улучшена работа с Bedrock и исправлены ошибки SDK.

  • Added: Внедрена система AI-меток: добавлено хранилище, конфигурация, клиент inference, задачи, рендеринг трассировок и фоновые процессы.
  • Added: Фронтенд и бэкенд оптимизированы для отправки одной медиа-части на запись списка из переменной Playground.
  • Fixed: Исправлена ошибка в SDK: теперь корректно обрабатываются потоки Bedrock invoke_model для Claude, сохраняя блоки tool_use, thinking и цитаты.
  • Fixed: Исправлена ошибка в SDK: исключено оценивание диалогов, если ответ ассистента не содержит текста.
  • Added: Обновлена документация: добавлены руководства по разделению сред (dev/staging/prod) и оценке тестовых сьютов.
  • Added: Обновлена зависимость Werkzeug до версии 3.1.9 для устранения уязвимостей безопасности.
2.2.109patch
🕐 16 дн назад · релиз на GitHub ↗

Исправлена работа с уровнями усилий в модели, улучшена производительность чтения трасс и спанов, обновлены сообщения об ошибках в Playground.

  • Fixed: Исправлено предложение отсутствующих уровней усилий и использование дефолтных значений новой модели при переключении.
  • Added: Оптимизировано чтение недель спанов из таблицы span_weeks для повышения производительности.
  • Added: Улучшена производительность просмотра трасс: идентификаторы трасс теперь читаются один раз для списка потоков.
  • Fixed: Добавлены понятные подсказки для пользователей при достижении лимитов скорости или отклонении ролей промпта моделью.
  • Added: Кнопки установки в один клик для MCP-сервера теперь отображаются в начале страницы документации.