AIKraft Agents

mnfst/manifest

Подключи своих агентов и harnesses к любому провайдеру 🦚

Инструменты⭐ 7 620TypeScriptпоследний релиз: manifest@6.29.0
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Manifest — это open-source шлюз (gateway) для LLM, который объединяет API-ключи, подписки и локальные модели под одним совместимым с OpenAI интерфейсом.

Зачем нужен

Инструмент решает проблему привязки к одному провайдеру, автоматически маршрутизируя запросы к нужной модели. Он обеспечивает отказоустойчивость через механизм fallback (переключение на другие модели при ошибках) и предоставляет детальную аналитику расходов и логов.

Что можно реализовать

  • Создание единой точки входа для AI-агентов, использующих несколько разных LLM-провайдеров
  • Защита от сбоев: автоматическое переключение на резервную модель при падении основного API
  • Централизованный контроль бюджета: отслеживание расходов на каждый запрос и установка лимитов
  • Локальное развертывание шлюза для работы с приватными или локальными моделями

Ключевые возможности

  • Кастомная маршрутизация запросов к API-ключам, подпискам и локальным моделям
  • Полное логирование тел запросов и ответов как для успешных, так и для ошибочных вызовов
  • Механизм self-healing: автоматический fallback на другие модели при ошибках
  • Готовые шаблоны деплоя на Render, Railway, AWS, GCP и DigitalOcean с поддержкой Docker

👤 Кому подойдёт: разработчики AI-приложений и агентов, DevOps-инженеры, управляющие инфраструктурой LLM

Релизы

manifest@6.29.0minorbreaking
🕐 вчера · релиз на GitHub ↗

Облачная версия стала платной; добавлена поддержка Claude Fable 5/5.1 и GPT-6; исправлена маршрутизация Bedrock и каталог моделей.

  • Breaking: Manifest Cloud теперь доступен только по подписке; без неё возвращается ошибка M204. Самостоятельный хостинг не изменился.
  • Added: В каталог добавлены профили Claude Fable 5, 5.1 и GPT-6 (luna, astra, sol, sol 6.1); исправлена загрузка каталога modelparams.
  • Fixed: Запросы Bedrock с функциями и рассуждениями теперь маршрутизируются через Responses API, а не отклоняются.
  • Fixed: Индексация потоковых вызовов функций исправлена на 0, если им предшествует элемент рассуждения (для Bedrock, OpenAI, xAI и др.).
  • Fixed: Ответы Gemini, заблокированные фильтрами безопасности, теперь корректно помечаются как content_filter, а не stop.
manifest@6.28.11patch
🕐 7 дн назад · релиз на GitHub ↗

Исправлено отображение токенов, параллельные вызовы инструментов и приоритет моделей MiniMax.

  • Fixed: Исправлено форматирование счётчика токенов на дашборде: убраны лишние нули и корректно отображаются единицы измерения.
  • Fixed: Улучшена обработка параллельных вызовов инструментов от провайдеров без индексов в записях и при трансляции API.
  • Added: Модели MiniMax M3.1 Flash и M3 выведены в начало списка выбора, сохранена поддержка Flash для изображений.
manifest@6.28.10patch
🕐 13 дн назад · релиз на GitHub ↗

Обновление безопасности Node.js, исправление обработки инструментов Gemini/Anthropic и улучшение работы панели запросов.

  • Fixed: Исправлена обработка сообщений инструментов (tool messages) в маршрутах Gemini и Anthropic, где ранее терялся контекст или возвращался некорректный JSON.
  • Added: Панели Recent Requests и Model usage в дашборде теперь загружаются параллельно с остальной страницей и обновляются в реальном времени.
  • Fixed: Удалено сохранение заголовков балансировщика нагрузки Google (Forwarded, Via) в логах запросов для защиты приватности IP-адресов.
  • Added: Добавлено уведомление для пользователей Free-плана о завершении работы Cloud-рабочих пространств 2 ноября 2026 года.
  • Fixed: Обновлены базовые образы Docker до Node.js 24.22.1 для устранения уязвимостей безопасности (CVE-2026-111497 и др.).
manifest@6.28.9patch
🕐 20 дн назад · релиз на GitHub ↗

В боковой панели дашборда появилась кнопка «Custom development» для заказа кастомных решений через форму обратной связи.

  • Added: Добавлена кнопка «Custom development» в нижней части боковой панели дашборда.
  • Added: Кнопка открывает форму заявки для заказа кастомных guardrails, хуков, интеграций, governance, управления пользователями и установки.
  • Added: Бэкенд пересылает данные формы на manifest.build, откуда команда отправляет письмо.
manifest@6.28.8patch
🕐 20 дн назад · релиз на GitHub ↗

В версии 6.28.8 удалены баннер и боковая карточка API Bot с панели управления.

  • Fixed: Удален баннер с объявлением об API Bot на панели управления.
  • Fixed: Удалена боковая карточка API Bot из интерфейса дашборда.
manifest@6.28.7patch
🕐 22 дн назад · релиз на GitHub ↗

Исправлена обработка отказов и обрезки ответов, улучшена совместимость с Bedrock и логирование.

  • Fixed: Текст рассуждений Claude теперь корректно отображается в поле reasoning_content.
  • Fixed: Отказы и превышение лимита контекста правильно маркируются, а не скрываются как завершённые ответы.
  • Fixed: Исправлена работа инструментов в Amazon Bedrock: параметр reasoning_effort теперь корректно передаётся.
  • Fixed: Ускорено логирование запросов и изолированы кэшированные фильтры аналитики.
  • Added: Из Playground отправляются обязательные заголовки провайдера, например x-opencode-session.
manifest@6.28.6patch
🕐 27 дн назад · релиз на GitHub ↗

Добавлены модели Claude Haiku 5.5, Sonnet 5.5 и GPT-6; исправлен стриминг Gemini и сохранение истории.

  • Added: Добавлены в каталоги Claude Haiku 5.5, Claude Sonnet 5.5 и модели GPT-6 для маршрутизации.
  • Fixed: Исправлен стриминг Gemini API: теперь ответы потоково передаются через :streamGenerateContent.
  • Fixed: Унифицирована работа стримов Gemini: корректные finish-события, usage и индексы tool calls.
  • Fixed: Улучшено сохранение истории: учтены tool calls, многострочные SSE-события и именованные функции Gemini.
  • Fixed: Исправлена ежедневная сводка использования: исключено повторное сканирование удаленных harness.
manifest@6.28.5patch
🕐 29 дн назад · релиз на GitHub ↗

Исправлена потеря параметров max_completion_tokens и stop при маршрутизации запросов в Google Gemini.

  • Fixed: В Google-маршрутах теперь корректно передаются параметры max_completion_tokens и stop, преобразуемые в maxOutputTokens и stopSequences.
  • Fixed: Устранена проблема, из-за которой лимиты вывода и стоп-последовательности от клиентов OpenAI SDK и запросов к /v1/messages игнорировались.
manifest@6.28.4patch
🕐 1 мес назад · релиз на GitHub ↗

В Amazon Bedrock добавлены профили инференса Claude для кросс-регионного маршрутизации (например, us.anthropic.claude-sonnet-5-5).

  • Added: В модельное обнаружение Amazon Bedrock добавлены профили инференса Claude для кросс-регионного маршрутизации, такие как us.anthropic.claude-sonnet-5-5.
manifest@6.28.2patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлена маршрутизация Claude на Bedrock, корректная передача tool_choice и response_format для сторонних провайдеров.

  • Fixed: Запросы к кросс-региональным моделям Claude (например, us.anthropic.claude-sonnet-5-5) теперь корректно направляются через Bedrock Runtime Anthropic Messages API, а не через Mantle.
  • Fixed: Настроена передача параметров tool_choice: {type: "none"} и disable_parallel_tool_use при маршрутизации запросов к провайдерам, отличным от Anthropic.
  • Fixed: Исправлена потеря формата ответа: параметр response_format теперь корректно передается как text.format для запросов к эндпоинту Responses (ChatGPT, Copilot, xAI).
manifest@6.28.1patch
🕐 1 мес назад · релиз на GitHub ↗

Исправления для Amazon Bedrock, Gemini и интерфейса: кэширование промптов, подсчёт токенов, выбор инструментов и сохранение параметров.

  • Fixed: На Amazon Bedrock и у кастомных провайдеров Anthropic кэширование промптов Claude теперь работает на протяжении всего диалога, а не только до системного промпта.
  • Fixed: В моделях Gemini с мышлением токены из поля `thoughtsTokenCount` теперь корректно учитываются как выходные, что исправляет подсчёт и тарификацию.
  • Fixed: Параметр `tool_choice` теперь корректно передаётся в Gemini через `toolConfig`, обеспечивая принудительный вызов функций или их отключение.
  • Fixed: В диалоге параметров модели значения теперь сохраняются даже при совпадении с дефолтными; незаданные параметры отображаются как «Not set».
manifest@6.28.0minor
🕐 1 мес назад · релиз на GitHub ↗

Добавлена поддержка новых моделей через Amazon Bedrock, исправлено обнаружение GPT-6.1 и улучшена стабильность графиков.

  • Added: Запуск инференса Amazon Bedrock (Kimi K3, GPT-6 Sol, Luna, Astra, GPT-5.6 Luna) через Bedrock Runtime для избежания ошибок 404.
  • Fixed: Исправлено обнаружение модели OpenAI gpt-6.1-sol путём обновления CODEX_CLI_VERSION до 0.159.2.
  • Fixed: Графики использования в дашборде теперь корректно сохраняют суточный дамп после подтверждения бэкфилла.
  • Added: В дашборде добавлено уведомление об API Bot с баннером и ссылкой на документацию.
manifest@6.27.0minor
🕐 1 мес назад · релиз на GitHub ↗

Исправлена передача параметров инструментов и системных промптов в Anthropic, Bedrock и Gemini; улучшена поддержка GPT-6 и кэширования.

  • Added: Кастомные провайдеры теперь поддерживают несколько API-ключей, каждый из которых управляется как отдельное соединение.
  • Fixed: Исправлена потеря параметров tool_choice и parallel_tool_calls при маршрутизации запросов в Anthropic.
  • Fixed: Системные промпты в виде массивов content-part теперь корректно передаются в Google Gemini, а сообщения developer обрабатываются как system instruction.
  • Fixed: Модели GPT-6 и новее в Bedrock теперь маршрутизируются через имённый путь OpenAI Responses API, требуемый сервисом.
  • Fixed: Улучшена обработка причин завершения (finish_reason) для нестриминговых ответов и сохранение метрик кэширования для OpenAI-совместимых бэкендов.
manifest@6.26.1patch
🕐 1 мес назад · релиз на GitHub ↗

Исправления ошибок, обновление Codex CLI, настройка лимитов запросов и улучшение UX интерфейса.

  • Fixed: Исправлен 500-й код ошибки при переключении моделей в OpenAI (Codex) и устранён конфликт кэширования в запросах к Anthropic.
  • Added: Добавлена конфигурация лимитов запросов через переменные MANIFEST_RATE_MAX_REQUESTS и MANIFEST_IP_RATE_MAX_REQUESTS.
  • Added: Обновлён CODEX_CLI_VERSION до 0.156.1 для корректного обнаружения новых моделей, таких как gpt-6-sol и gpt-6-luna.
  • Fixed: Исправлено сохранение API-ключа при редактировании провайдеров, улучшена обработка состояний загрузки и подтверждений удаления.
manifest@6.26.0minor
🕐 1 мес назад · релиз на GitHub ↗

Добавлен контроль параметров моделей через CLI/MCP, исправлены маршрутизация, кэширование и токены, удалены старые эндпоинты статистики.

  • Added: Получение и установка параметров моделей (reasoning effort, temperature) через CLI и MCP-сервер.
  • Fixed: Улучшена логика фолбэков: исправлена обработка таймаутов, отключений и пропуски моделей без вызова инструментов.
  • Fixed: Ускорена фильтрация запросов на холодном кэше и исправлено обновление токенов при ошибке 401.
  • Fixed: Устранён дедлок при параллельных деплоях и исправлено отображение ошибок отсутствия модели в хаусе.
  • Deprecated: Удалены публичные эндпоинты статистики использования, сканировавшие таблицу попыток провайдеров.
manifest@6.25.5patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлено зависание MCP-подключений в Claude Code, оптимизирована работа с базой данных и обновлён интерфейс шлюза.

  • Fixed: Устранено зависание удалённых MCP-подключений в Claude Code за счёт изменения режима потоковой передачи и отключения неверного уведомления об изменении инструментов.
  • Fixed: Оптимизирована производительность: добавлены индексы для попыток провайдеров и переключено чтение статистики на ежедневные сводки, что устранило блокировки страницы и таймауты БД.
  • Added: Дашборд брендирован как Manifest LLM Gateway: обновлён логотип, изменена ссылка в боковой панели и переключены URL-адреса облачного шлюза на app.manifest.build.
manifest@6.25.4patch
🕐 1 мес назад · релиз на GitHub ↗

Ускорена загрузка дашборда и исправлен запуск self-hosted версий с HTTP-ссылками после обязательного включения MCP.

  • Fixed: Исправлен сбой запуска self-hosted-развертываний по HTTP: Manifest теперь корректно работает без MCP на таких доменах или отключается по флагу MCP_ENABLED=false.
  • Added: Ускорена первая отрисовка дашборда: сессии валидируются через кэш cookie (макс. 5 минут), а поиск плана больше не блокируется проверкой сессии.
  • Added: Ускорена первая загрузка раздела Overview: уменьшена частота опроса статуса Autofix (раз в минуту вместо 15 секунд) и добавлен частичный индекс для оптимизации аналитики.
manifest@6.25.3patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлено замедление страниц из-за тысяч запросов к БД, улучшена работа с моделями OpenCode Go и интерфейс согласия MCP.

  • Fixed: Ускорены страницы Overview и Requests в рабочих пространствах с высокой нагрузкой за счёт оптимизации запросов к таблице агентов.
  • Added: На экране согласия удалённого MCP кнопка Allow вынесена на первое место, а Deny перемещена вниз.
  • Fixed: Исправлено корректное отображение моделей OpenCode Go (например, deepseek-v4.1-flash): имена и возможности теперь берутся из каталога шлюза, а не из raw ID.
  • Fixed: Лог запросов теперь корректно сопоставляет идентификаторы шлюза через каталог цен, а пикер моделей скрывает дубликаты и корректно обрабатывает промо-строки.
manifest@6.25.2patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлена передача заголовков Anthropic, восстановлен URL сборки, улучшена обработка OAuth и ошибок верификации.

  • Fixed: Исправлена потеря заголовка anthropic-beta при запросах к API Anthropic, что предотвращает ошибки валидации для бета-функций.
  • Fixed: Восстановлен URL app.manifest.build для настройки Cloud по умолчанию, сохранив совместимость с существ клиентами MCP.
  • Fixed: Исправлена проблема с OAuth-сессиями при использовании нескольких хостов: теперь redirect_uri и cookie корректно привязываются к базовому URL.
  • Fixed: Обновлены ссылки на репозиторий mnfst/llm-gateway во всех компонентах, включая Docker и проверки обновлений.
  • Added: Добавлен путь восстановления через email при обнаружении несвязанного аккаунта после входа через социальные сети.
manifest@6.24.0minor
🕐 1 мес назад · релиз на GitHub ↗

Добавлен MCP-сервер с OAuth 2.1, улучшен Autofix для fallback-маршрутов и обновлен CLI. Исправлены провайдеры, телеметрия и Kiro.

  • Added: Добавлен удаленный MCP-сервер на POST /api/v1/mcp с авторизацией OAuth 2.1 (PKCE, JWT) и страницей согласия.
  • Added: Autofix теперь применяется к неудачным попыткам fallback-маршрутов, позволяя восстанавливать запросы без сжигания всей цепочки.
  • Added: Появилась CLI-утилита mnfst для управления агентами, провайдерами и аналитикой из терминала, а также эндпоинт /api/v1/me.
  • Fixed: Исправлена передача серверных инструментов Anthropic (web_search, bash) на провайдеров, не поддерживающих поле parameters.
  • Fixed: Улучшена телеметрия CLI: команды спойлятся локально, отправка происходит раз в день, добавлен тег target (cloud/self-hosted).
  • Fixed: Исправлено обнаружение моделей OpenAI Codex (gpt-6-astra), обновлен CODEX_CLI_VERSION, и исправлено логирование токенов в Kiro.
manifest@6.23.4patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлены ошибки в работе с Anthropic и циклы агентов Kiro, улучшена стабильность контекста.

  • Fixed: Исправлена ошибка в Anthropic: теперь для схем типа object автоматически добавляется additionalProperties: false, что предотвращает отклонение запросов.
  • Fixed: Устранены бесконечные циклы в агенте Kiro: исправлено поведение при вызове инструментов, чтобы не терять контекст и системный промпт.
manifest@6.23.3patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлена работа инструментов Kiro и оптимизирована логика Autofix для провайдеров.

  • Fixed: Исправлено вызов инструментов в Kiro: корректно маппятся определения, сообщения и события toolUse/toolResults.
  • Fixed: Уточнена логика Autofix: специфичные для модели исправления делегированы ему, а протокольные поля провайдеров (OpenAI, OpenRouter, Ollama) сохранены для стабильности трафика.
manifest@6.23.2patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлены ошибки при работе с DeepSeek в режиме рассуждений и устранена проблема с дублирующимися ID вызовов инструментов.

  • Fixed: Исправлена ошибка 400 при использовании режима рассуждений DeepSeek за счет корректной обработки reasoning_content.
  • Fixed: Устранена проблема с дублирующимися ID вызовов инструментов при конвертации запросов Chat Completions в Responses.
  • Fixed: Исправлена ошибка отклонения повторных попыток отправки ходов разговора из-за дублирования function_call_output в истории Responses.
manifest@6.23.1patch
🕐 1 мес назад · релиз на GitHub ↗

Исправление таймаутов CRM, тарификация DeepSeek V4.1, поддержка n8n и стабильность стриминга.

  • Fixed: Устранён таймаут внутреннего потока метрик CRM при длительных окнах за счёт отказа от детализации по провайдеру.
  • Added: Добавлена тарификация DeepSeek V4.1 Flash по пиковым и непиковым ставкам; переключение deepseek-v4-pro на этот тариф с 14.09.2026.
  • Added: Запросы от нод сообщества n8n теперь распознаются по User-Agent, что позволяет отображать узел в качестве вызывающей стороны.
  • Fixed: Стриминговые запросы теперь помечаются как успешные, если клиент разрывает соединение после получения терминального события от провайдера.
manifest@6.23.0minor
🕐 1 мес назад · релиз на GitHub ↗

Добавлена поддержка OpenAI Codex и убран баннер с кредитом Gemini.

  • Added: Добавлена поддержка OpenAI Codex как платформы для агентов-ассистентов.
  • Added: Реализована совместимость с провайдерами, не являющимися OpenAI, через Responses API.
  • Added: Добавлен защищённый канал для связи с пользователями, чьи запросы исправил Autofix.
  • Fixed: Исправлена передача потоковых вызовов функций и инструментов через сторонние провайдеры.
  • Deprecated: Удалён баннер с кредитом Gemini $25 со страницы Overview.
manifest@6.22.0minor
🕐 2 мес назад · релиз на GitHub ↗

В Manifest 6.22.0 добавлены алиасы для кастомных провайдеров, интеграция с n8n и проверка обновлений для self-hosted.

  • Added: Кастомные провайдеры теперь имеют читаемый алиас для моделей в /v1/models, совместимый с существующими конфигурациями.
  • Added: Добавлен хаб автоматизации с поддержкой n8n и инструкциями по настройке учетных данных.
  • Added: Для self-hosted версий добавлен эндпоинт проверки обновлений с уведомлением о новой версии в дашборде.
  • Fixed: Исправлена адаптация страниц провайдеров, KPI-карточек и заголовка приложения для мобильных экранов.
manifest@6.21.1patch
🕐 2 мес назад · релиз на GitHub ↗

Исправлена отправка заголовка сессии для OpenCode, удалены неработающие batch-модели OpenRouter и обновлены зависимости безопасности.

  • Fixed: Добавлен заголовок x-opencode-session в запросы OpenCode Go/Zen для соответствия требованиям до 6 сентября.
  • Fixed: Убраны из списка моделей OpenRouter варианты :batch, так как они недоступны через синхронный API чата.
  • Fixed: Обновлена библиотека fast-uri до версии 3.1.6 для устранения уязвимостей безопасности.
  • Fixed: Обновлены базовые образы Docker.
manifest@6.21.0minor
🕐 2 мес назад · релиз на GitHub ↗

Шифрование записей запросов, защита логов от утечки учетных данных и исправления маршрутизации для Anthropic.

  • Added: Записи запросов теперь шифруются ключом at-rest, поддерживается ротация ключей без потери данных.
  • Added: В каталог Anthropic добавлена модель claude-fable-5-1 для корректной маршрутизации через подписку.
  • Fixed: Из записей и логов удалены встроенные изображения в base64 и учетные данные провайдеров.
  • Fixed: Исправлена маршрутизация: явный bare model id теперь направляется в подписку, а не в api_key.
  • Fixed: Убран автологин для 127.0.0.1; улучшена производительность прокрутки каталога моделей.
manifest@6.20.0minor
🕐 2 мес назад · релиз на GitHub ↗

Manifest 6.20.0: добавлена поддержка Grok-4.6, улучшена работа с подписками и потоковым ответом, исправлены ошибки контекста и UI.

  • Added: Добавлена модель grok-4.6 в список доступных для подписки Grok Build с контекстом 500k токенов.
  • Added: Новые пользователи self-hosted версии проходят опциональную форму сбора данных сразу после регистрации.
  • Added: Боковая панель теперь анонсирует статус Manifest как самовосстанавливающегося слоя для API с формой ожидания.
  • Fixed: Исправлено переполнение контекста при отправке изображений в tool_result на OpenAI-совместимых маршрутах.
  • Fixed: Разрешено использование потокового режима (streaming) для моделей пользовательских провайдеров.
  • Fixed: Восстановлено обновление Better Auth до версии 1.6.25 для баз данных версии 1.6.