helm-chart-v2.1.47patch
Выпуск Helm-чарта для Bifrost версии 2.1.47.
- Обновлена версия Helm-чарта до 2.1.47.
maximhq/bifrost
Самый быстрый корпоративный AI-шлюз (в 50 раз быстрее LiteLLM) с адаптивным балансировщиком нагрузки, кластерным режимом, guardrails, поддержкой 1000+ моделей и оверхедом <100 мкс при 5k RPS.
Инструменты⭐ 9 398Goпоследний релиз: helm-chart-v2.1.47
Что это за инструмент
Bifrost — это высокопроизводительный AI-шлюз (gateway) с открытым исходным кодом, обеспечивающий доступ к более чем 23 провайдерам через единый OpenAI-compatible API.
Зачем нужен
Инструмент решает задачу унификации работы с различными LLM, обеспечивая автоматический фоллбэк при сбоях, интеллектуальное распределение нагрузки и семантическое кэширование. Он полезен для снижения задержек и затрат на API, а также для обеспечения отказоустойчивости и безопасности корпоративных AI-приложений.
Что можно реализовать
- Создание отказоустойчивых AI-приложений с автоматическим переключением между провайдерами (OpenAI, Anthropic, AWS Bedrock и др.) при сбоях.
- Централизованное управление бюджетами и лимитами доступа для разных команд и клиентов с использованием виртуальных ключей.
- Интеграция внешних инструментов в LLM через поддержку Model Context Protocol (MCP).
- Снижение затрат и задержек за счет семантического кэширования ответов.
- Обеспечение безопасности и аудита через OIDC-аутентификацию, распределенное трассирование и логирование.
Ключевые возможности
- Высокая производительность: менее 100 мкс оверхеда при 5k RPS, позиционируется как быстрее LiteLLM.
- Поддержка 23+ провайдеров и мультимодальных запросов (текст, изображения, аудио) через единый интерфейс.
- Встроенный веб-интерфейс для визуальной настройки, мониторинга и аналитики в реальном времени.
- Enterprise-функции: кластерный режим, адаптивный балансировщик нагрузки, guardrails и управление секретами.
- Гибкая архитектура плагинов для добавления кастомной логики, аналитики и мониторинга.
👤 Кому подойдёт: Разработчики и DevOps-инженеры, строящие масштабируемые AI-приложения, а также технические руководители, нуждающиеся в централизованном управлении доступом, безопасностью и затратами на LLM в корпоративной среде.
Релизы
ent-v2.4.0-baseminor
Добавлены провайдеры MiniMax и BytePlus, улучшена интеграция GitHub Copilot и обновлена система аутентификации MCP.
- Added: Добавлена поддержка провайдера MiniMax для генерации текста, изображений, видео и аудио.
- Added: Включен провайдер BytePlus ModelArk с поддержкой чата, ответов, эмбеддингов и генерации медиа.
- Added: Улучшена интеграция GitHub Copilot: добавлена нативная поддержка ответов, эмбеддингов и новый поток входа через Device Flow.
- Added: Обновлена система аутентификации MCP/OAuth2 с возможностью обмена токенов и верификации клиентов.
- Fixed: Исправлена работа веб-поиска для провайдера Anthropic и улучшена обработка результатов инструментов в Bedrock.
transports/v2.4.0major
Релиз v2.4.0: новые провайдеры (MiniMax, BytePlus, SageMaker), ретрансляторы, Warp Topics, MCP 2026-07-28 и Azure Live.
- Added: Relays: ретрансляция не-LLM API (Tavily, AWS Textract, Azure Speech) с едиными учетными данными, потоковой передачей и детальной логикой биллинга.
- Added: Новые провайдеры: MiniMax, BytePlus ModelArk и AWS SageMaker с поддержкой чата, генерации медиа и проксирования запросов.
- Added: Warp Topics: автоматическая группировка запросов в логи по темам с фильтрацией, метриками и историей.
- Added: Azure Speech и Live: интеграция SSML, транскрипции, Voice Live сессий и GPT Live через новые маршруты.
- Added: MCP Protocol 2026-07-28: поддержка промптов, ресурсов, OAuth CIMD, привязки издателей и улучшения протокола.
- Added: Native Decisions: нативная поддержка решений на vLLM, SGLang, Databricks System One и Azure gpt-6-luna.
plugins/telemetry/v1.9.4patch
Исправлено измерение задержек для HTTP-запросов, добавлена ретрансляция метрик и учёт операций MCP.
- Fixed: Исправлено: метрика bifrost_overhead_latency_microseconds теперь корректно отправляется для запросов, обслуживаемых через HTTP.
- Added: Добавлена ретрансляция метрик запросов; операции чтения промптов и ресурсов MCP учитываются в соответствующих метриках MCP.
- Обновлены зависимости: ядро (core) до версии v1.14.0 и фреймворк до версии v1.11.0.
plugins/telemetry/v1.9.3patch
Исправление метрик задержки для HTTP, ретрансляция метрик запросов и учёт MCP-операций, обновление ядра и фреймворка.
- Fixed: Исправлено: метрика bifrost_overhead_latency_microseconds теперь корректно отправляется для запросов, обработанных через HTTP.
- Added: Добавлена ретрансляция метрик запросов; чтения промптов и ресурсов MCP учитываются в соответствующих метриках MCP.
- Обновлены зависимости: ядро до версии v1.14.0 и фреймворк до версии v1.11.0.
helm-chart-v2.1.46patch
Выпуск Helm-чарта для Bifrost v2.1.46.
- Обновлена версия Helm-чарта до v2.1.46.
ent-v2.3.2-basepatch
Выпуск ent-v2.3.2-base включает обновление базовой версии Go до 1.27.3.
- Added: Обновлен базовый образ Go до версии 1.27.3.
transports/v2.3.2patchbreaking
Выпуск v2.3.2: обновление Go до 1.27.3 для устранения уязвимости CVE-2026-111943 в crypto/x509 и обновление зависимостей.
- Breaking: Обновлен базовый образ Go до версии 1.27.3 для устранения уязвимости CVE-2026-111943 в модуле crypto/x509.
- Breaking: Изменена политика проверки TLS-сертификатов: цепочки от конкретных центров сертификации через промежуточные звенья теперь отвергаются.
- Breaking: Кастомные плагины на Go необходимо пересобрать с использованием Go 1.27.3, иначе они не загрузятся.
- Fixed: Обновлены версии ядра (core v1.13.1) и фреймворка (framework v1.10.1) во всех модулях.
ent-v2.3.1-baseminor
Добавлена поддержка OpenAPI MCP, виртуальных ключей и новых моделей; исправлены ошибки в MCP и провайдерах.
- Added: Полноценная поддержка OpenAPI MCP: синтез серверов, интеграция в UI, API и хуки.
- Added: Глобальная безопасность: внедрение виртуальных ключей и обязательная аутентификация IdP для Edge.
- Added: Поддержка новых моделей: Microsoft-Decision-1 в Azure и ai_decide в Databricks.
- Added: Новые возможности: отгрузка логов в Parquet, настройка размещения extra_fields и SSO для Claude Desktop.
- Fixed: Исправления: параллельный вызов инструментов в Bedrock, синхронизация MCP OAuth и миграции БД.
helm-chart-v2.1.45patch
Выпуск Helm-чарта для Bifrost версии 2.1.45.
- Обновлена версия Helm-чарта до 2.1.45.
cli/v1.0.0major
Выпуск Bifrost CLI v1.0.0: добавлена аутентификация через SSO, каталог OpenAPI, управление моделями и интеграция с AI-ассистентами.
- Added: Внедрена аутентификация через Enterprise SSO (PKCE, refresh-token rotation) с хранением секретов в системном брелоке.
- Added: Добавлен каталог OpenAPI с поиском, фильтрацией по тегам и поддержкой вывода в таблицах, JSON, YAML и сыром виде.
- Added: Появились команды для управления чатом, инференсом, контекстами, авторизацией и использованием ресурсов.
- Added: Реализована поддержка запуска Claude Code, Codex CLI, Gemini CLI и OpenCode через SSO-токены или виртуальные ключи.
- Added: Интерактивный лаунчер отображает режим аутентификации, обнаруживает модели и управляет виртуальными ключами.
ent-v2.3.0-baseminorbreaking
Обновление MCP-клиентов, восстановление сессий, новые функции управления доступом и исправления OAuth2.
- Added: Добавлено ручное обновление инструментов MCP (RefreshMCPClientTools) и интерфейс для переавторизации при потере регистрации клиента.
- Added: Расширены возможности управления доступом: профили доступа теперь поддерживаются командами, подразделениями и клиентами.
- Fixed: Улучшена стабильность соединений: исправлено восстановление после сбоев, сохранение состояний сессий и обработка таймаутов.
- Fixed: Исправлена ошибка отклонения длинных значений OAuth2 в PostgreSQL путем расширения типов данных столбцов.
- Breaking: Изменена логика проверки доступа для пользователей без профиля доступа и уточнен объем действия allow_by_default.
framework/v1.9.0major
Релиз v1.9.0: новые агенты, маршрутизация, MCP OAuth, улучшенное ценообразование и логирование.
- Added: Добавлен Warp-агент, семантический поиск по логам, поддержка новых бэкендов очередей и маршрутизация сложности.
- Added: Расширены возможности MCP: приватные сети, OAuth2 ротация, списки разрешений и управление инструкциями.
- Added: Улучшено ценообразование: поддержка тарификации голосовых секунд, новых тиров и детализация затрат.
- Added: Внедрены новые инструменты логирования, фильтрации и хранения данных сессий и событий.
- Fixed: Исправлены ошибки в расчетах стоимости транскрипции, работе роутера и обработке потоковых ответов.
helm-chart-v2.1.44patch
Выпуск Helm-чарта для Bifrost версии 2.1.44.
- Представлен релиз Helm-чарта для Bifrost v2.1.44.
core/v1.11.3patch
Исправлена ошибка, из-за которой заголовок биллинга Anthropic некорректно обрабатывался при наличии системных сообщений с effort-only.
- Fixed: Исправлена логика извлечения заголовка биллинга Anthropic, который ранее оставался в потоке при наличии системных сообщений с effort-only.
ent-v2.2.6-basepatch
Релиз Bifrost ent-v2.2.6-base: исправления гонок, ограничение памяти zstd, поддержка конфигурации вывода на уровне сообщений и новые тесты.
- Added: Добавлена поддержка конфигурации вывода на уровне сообщения (message level output config).
- Fixed: Исправлена гонка потоков (race condition) в провайдере навыков (skill provider).
- Fixed: Ограничено потребление памяти декодером zstd для предотвращения переполнения.
- Added: Добавлены e2e-тесты API для проверки уязвимостей в управляющих интерфейсах.
- Fixed: Исправлены тесты, связанные с удалением токенов размышления (thinking token drop), и улучшена поддержка токенов настройки.
plugins/telemetry/v1.8.5patch
Выпущен плагин telemetry v1.8.5 с обновлением ядра до v1.11.2 и фреймворка до v1.8.1.
- Added: Обновлено ядро до версии v1.11.2.
- Added: Обновлен фреймворк до версии v1.8.1.
ent-v2.2.5-basepatch
Исправления биллинга для Ultrafast и OpenAI, патчи безопасности (auth bypass, path normalization) и фиксы Gemini fallback.
- Fixed: Исправлен биллинг запросов Ultrafast свыше 272k токенов и приоритетных запросов OpenAI.
- Fixed: Устранена уязвимость обхода аутентификации через нормализацию путей.
- Fixed: Исправлен fallback Gemini на OpenAI и синхронизация ID для биллинга MCP-блоков.
- Added: Добавлен токен для первоначальной настройки и внедрен whitelist для автоисполнения.
ent-v2.2.4-baseminor
Исправления маршрутизации, поддержка reasoning в Anthropic, фиксы Gemini/Bedrock и UI для VK.
- Fixed: Исправлена маршрутизация: корректный разбор legacy-строк провайдеров, валидация fallback-правил и исключение пустых моделей из гистограмм.
- Added: Добавлена поддержка типа reasoning 'between tools' для Anthropic.
- Fixed: Исправлены проблемы с обрезкой токенов в Gemini и Bedrock, а также ошибки в подписях изображений Gemini и обработке file URL.
- Fixed: Обновлен UI для неуправляемого пути VK и исправлено сохранение календаря команд после перезапуска.
- Added: Добавлены предупреждения в логи при отсутствии известного провайдера в правилах fallback.
plugins/prompts/v1.1.7patch
Выпущен плагин prompts v1.1.7 с обновлением ядра до v1.11.0 и фреймворка до v1.7.5.
- Обновлено ядро до версии v1.11.0.
- Обновлён фреймворк до версии v1.7.5.
core/v1.10.4patch
Исправлено молчание роутера при использовании легаси-фолбэка: теперь ошибки корректно декодируются до инициализации провайдеров.
- Fixed: Исправлено молчание роутера при использовании легаси-фолбэка: теперь ошибки корректно декодируются до инициализации провайдеров.
ent-v2.2.3-baseminor
Релиз Bifrost v2.2.3: поддержка GPT-6, исправления маршрутизации, кэширования и интеграции с Databricks.
- Added: Добавлена поддержка моделей GPT-6 (Sol и Luna), включая асинхронное выполнение инструментов и кросс-провайдерный поиск.
- Fixed: Исправлена маршрутизация ключей при переупорядочивании сессий и устранены проблемы с привязкой к провайдерам.
- Fixed: Устранены ошибки в работе OpenAI (reasoning, кэш, типы ответов) и исправлено декодирование зашифрованного контента в Bedrock.
- Fixed: В Databricks объединены многосоставные системные промпты для endpoints на базе Gemini.
- Added: Обновлен UI для корректной работы с переключателем пользовательских меток.
plugins/prompts/v1.1.6patch
Выпущен релиз плагина prompts v1.1.6 с обновлением ядра до v1.10.2 и фреймворка до v1.7.4.
- Обновлено ядро до версии v1.10.2.
- Обновлен фреймворк до версии v1.7.4.
helm-chart-v2.1.43patch
Выпуск Helm-чарта для Bifrost версии 2.1.43.
- Обновлена версия Helm-чарта для Bifrost до 2.1.43.
ent-v2.2.2-baseminor
Релиз Bifrost v2.2.2: новая система Session Affinity, поддержка Claude Opus 5-5 и Grok 4.7, оптимизация производительности.
- Added: Добавлена плагинная система Session Affinity для управления привязкой сессий с учётом контекста и результатов маршрутизации.
- Added: Реализована эмуляция решений через LLM tool-calling, поддержка моделей Grok 4.7, Kimi, DeepSeek и Claude Opus 5-5.
- Added: Введён новый эндпоинт для типовых моделей и улучшена поддержка Bedrock, включая обработку cache_control и JSON-документов.
- Fixed: Исправлены утечки памяти при стриминге, проблемы с кэшированием Anthropic и некорректная обработка OpenAI computer tool.
- Fixed: Устранены лишние аллокации в плагине совместимости и восстановлена поддержка HTTP_PROXY для MCP-соединений.
core/v1.10.0minor
Релиз Bifrost v1.10.0: поддержка Claude Opus 5.5, типобезопасные провайдеры, исправления для Moonshot, DeepSeek, Bedrock и Grok.
- Added: Добавлена поддержка Claude Opus 5.5 с toolset_20260801, включая управление мышлением и выбором инструментов.
- Added: Внедрена типобезопасная работа провайдеров, эндпоинт /v1/decisions и эмуляция решений через принудительный вызов инструментов.
- Added: Реализована привязка сессий на уровне провайдера (SessionAffinity) с привязкой к результату запроса.
- Fixed: Исправлена обработка заголовков биллинга Anthropic, прокси-соединений MCP и стриминга OpenAI.
- Fixed: Устранены проблемы с кэшированием в Bedrock, парсингом источников веб-поиска OpenAI и сохранением усилий рассуждения Grok 4.7.
framework/v1.7.2patch
Исправлено вычисление размера буфера повторной передачи через кэшированные оценки, устранено избыточное сериализация.
- Fixed: Заменено вычисление размера буфера повторной передачи на кэшированные оценки с нулевой маршализацией, что исключает избыточное вызов MarshalJSON для полного удержания.
ent-v2.2.1-baseminor
Исправления для Anthropic, xAI, Bedrock и Gemini, новые возможности Governance и улучшенная трассировка OTEL.
- Fixed: Исправлена потеря параметра container в Anthropic, улучшена обработка ошибок и нормализация схем инструментов.
- Fixed: Устранены проблемы с расчетом стоимости и токенов для xAI, а также исправлена работа Bedrock и сохранение особенностей Gemini 3.1 Flash-Lite.
- Added: Расширены возможности Governance: пакетное назначение виртуальных ключей и расширенный поиск по командам и клиентам.
- Added: Добавлена поддержка capabilities `SupportsPromptCacheBreakpoints` для OpenRouter и улучшена интеграция с OTEL.
- Fixed: Исправлена дублирующая биллинг-транзакция при поддельных `x-request-id` и улучшено управление соединениями.
ent-v2.2.0-baseminor
Релиз Bifrost v2.2.0: внедрено почасовое ценообразование, поддержка GA-транскрипции и улучшена работа с Bedrock и Anthropic.
- Added: Добавлена поддержка динамического ценообразования с учетом времени суток (пиковые/непиковые часы) в Helm, API и UI.
- Added: Функция реальной транскрипции (realtime transcription) переведена в статус GA (General Availability).
- Added: Улучшена интеграция с Bedrock: добавлены флаги маршрутизации, исправлена работа с источниками документов и защита от кеширования.
- Added: Для провайдеров Fireworks, vLLM и SGLang добавлена опция использования Anthropic-совместимых эндпоинтов с корректной обработкой инструментов.
- Fixed: Исправлена маршрутизация ответов для совместимых моделей, устранена ошибка мисклассификации gpt-oss и улучшена работа с prompt caching.
helm-chart-v2.1.42patch
Выпуск Helm-чарта для Bifrost версии 2.1.42.
- Обновлена версия Helm-чарта для Bifrost до 2.1.42.