AIKraft Agents
ВойтиТарифы и покупка

diegosouzapw/OmniRoute

Никогда не переставай кодить. Бесплатный AI-шлюз с лицензией MIT: один эндпоинт, 340 провайдеров (90+ бесплатных), 1200+ моделей — Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Работает с Claude Code, Codex, Cursor, OpenCode, Cline и Copilot. Авто-фоллбэк с учётом квот, сжатие RTK+Caveman эконо

Инструменты⭐ 84 905TypeScriptпоследний релиз: v3.8.52
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

OmniRoute — это бесплатный шлюз (gateway) с открытым исходным кодом под лицензией MIT, объединяющий доступ к 341 провайдеру и 1200+ моделям через единый endpoint.

Зачем нужен

Инструмент решает проблему фрагментации доступа к ИИ, позволяя использовать один интерфейс для работы с Claude, GPT, Gemini и другими моделями. Он автоматически управляет квотами и обеспечивает fallback при исчерпании лимитов, а также сжимает токены (RTK+Caveman) для экономии средств.

Что можно реализовать

  • Интеграция с IDE и агентами: подключение Claude Code, Codex, Cursor, OpenCode, Cline и Copilot к различным LLM через единый прокси.
  • Агрегация бесплатных квот: использование единого пула ~1.51B бесплатных токенов в месяц от 42 провайдеров без ручного управления SDK.
  • Оптимизация расходов: снижение потребления токенов на 15–95% (в среднем ~89%) за счет стекирования алгоритмов сжатия RTK и Caveman.
  • Разработка AI-агентов: использование поддержки протоколов MCP (Model Context Protocol) и A2A для создания сложных агентных систем.

Ключевые возможности

  • Единая точка входа для 341 провайдера и 1200+ моделей, включая Kimi, Claude, GPT, Gemini, GLM, DeepSeek.
  • Quota-aware auto-fallback: автоматическое переключение на другие модели или провайдеры при достижении лимитов.
  • Встроенная аналитика: живой дашборд (/dashboard/free-tiers) с отображением реального остатка бесплатных токенов.
  • Поддержка модальностей: работа с текстом, изображениями (vision) и видео, а также десктопное/PWA приложение.

👤 Кому подойдёт: разработчики, использующие AI-ассистентов в IDE, создатели AI-агентов, исследователи, желающие минимизировать затраты на API-запросы

Релизы

v3.8.52minor
🕐 17 дн назад · релиз на GitHub ↗

Добавлены провайдеры BigModel и NoTrack, стратегия роутинга Nadir, сжатие промптов LLMLingua и новые флаги для Reasoning Replay.

  • Added: Добавлены провайдеры BigModel (Zhipu) и NoTrack, а также поддержка биллинга Hugging Face через заголовок X-HF-Bill-To.
  • Added: Внедрена стратегия авто-роутинга Nadir для выбора модели и сервис LLMLingua для сжатия промптов через HTTP-сайдкар.
  • Added: Добавлен флаг REASONING_REPLAY_ENABLED для отключения кэширования текста рассуждений и опции переплаты кредитами для аккаунтов Codex.
  • Added: Реализованы ограничения параллельности соединений на уровне модели и переопределение сервисных уровней для ключей OpenAI OAuth.
v3.8.51major
🕐 1 мес назад · релиз на GitHub ↗

OmniRoute v3.8.51: новые модели, усиленная безопасность, маршрутизация и поддержка аудио.

  • Added: Добавлены модели GPT-6 Astra/Sol/Luna в каталоги Codex и OpenAI, а также новые провайдеры UC, Lyceum и regolo.
  • Added: Включена поддержка ElevenLabs и Google AI Studio для синтеза речи, а также сжатие запросов в изолированных потоках.
  • Added: Улучшена маршрутизация: внедрена иерархическая конкурентность, адаптивные усилия рассуждения и отказоустойчивость.
  • Added: Расширены возможности Free tier и Radar: управление квотами, видимость лимитов и поддержка в манифесте плагина.
  • Fixed: Усиленна безопасность: изолированные хуки, защита от обхода IP, постоянные сравнения токенов и контроль OIDC.
v3.8.50minor
🕐 2 мес назад · релиз на GitHub ↗

Релиз v3.8.50: добавлены X Search, OmniConductor, новые провайдеры (DeepAI, UnoRouter, DeepSeek V4) и улучшения для плагинов.

  • Added: Добавлен первый классный провайдер X Search (x-search) для поиска в Twitter/X.
  • Added: Введена панель OmniConductor и поддержка A2A-делегирования для управления флотом агентов.
  • Added: Расширен каталог провайдеров: добавлены DeepAI, Naga.ac, UnoRouter, Regolo AI и нативная поддержка DeepSeek V4 Flash/Pro.
  • Added: Появился встроенный плагин-событие onStreamComplete для сбора метрик после завершения SSE-стрима.
  • Added: Улучшена работа с каталогом: добавлено быстрое восстановление из снимка диска и оптимизация для VPS с малым объемом памяти.
v3.8.49minor
🕐 3 мес назад · релиз на GitHub ↗

Релиз v3.8.49: добавлена поддержка множества новых AI-провайдеров, улучшена аналитика и CI/CD пайплайны.

  • Added: Добавлена поддержка новых провайдеров: Agnes AI, Dahl, xAI (Grok Imagine, OAuth PKCE), Mixedbread AI, Rev AI, Freepik, DeepInfra, Felo и Chenzk API.
  • Added: Расширены возможности дашборда: добавлена аналитика за 180 и 365 дней, метрики задержки моделей и управление приоритетами подключений.
  • Added: Улучшена инфраструктура CI/CD: внедрены Mergify, автоматическая проверка сборки npm, тестирование на Windows и сбор метрик покрытия Codecov.
  • Added: Добавлена поддержка моделей GPT-5.6 Sol/Terra/Luna, обновлены провайдеры kimi и внедрены обходы ограничений reasoning-effort для Antigravity.
  • Added: Улучшена работа с SSE: сохранение инструментов, отключение комментариев-сердцебиений и оптимизация производительности через performance.mark.