AIKraft/Skills/omni-combos-routing

omni-combos-routing

Создавайте и управляйте комбинированными маршрутами (combos) с 19 стратегиями, включая priority, weighted, round-robin и Auto-combo. Настраивайте цепочки резервирования (fallback), тестируйте маршруты и получайте метрики. Пригодится для оптимизации маршрутизации запросов.

CICheaper Inference official Разработка ★ 79.4k

Что делает навык

Skill управляет комбинированными маршрутами (combos) для распределения запросов между моделями ИИ, поддерживая 19 стратегий маршрутизации, включая priority, weighted, round-robin и Auto-combo. Он позволяет настраивать цепочки резервирования (fallback), тестировать конфигурации и получать метрики производительности для оптимизации маршрутизации.

Когда применять

  • Настройка маршрутизации запросов с использованием стратегии приоритета или взвешенного распределения.
  • Активация Auto-combo для автоматического выбора лучшей модели на основе 16 факторов.
  • Тестирование конфигурации маршрута без выполнения реальных запросов к API (dry run).
  • Мониторинг метрик маршрутов, таких как задержка, успешность и стоимость.
  • Управление цепочками резервирования (fallback chains) для обеспечения отказоустойчивости.

Как работает

  1. Получите токен аутентификации через POST /api/auth/login или настройте REQUIRE_API_KEY=false.
  2. Создайте новый маршрут (combo) с помощью POST /api/combos, указав имя, стратегию и целевые модели.
  3. Настройте параметры маршрута, такие как веса или порядок целей, используя PUT или PATCH /api/combos/{id}.
  4. Для тестирования используйте POST /api/combos/test или симуляцию через POST /api/routing/simulate.
  5. Получите метрики маршрута через GET /api/combos/{id}/metrics для анализа производительности.
  6. Включите или отключите маршрут с помощью PUT /api/combos/{id}/toggle.

Примеры запросов агенту

Создай комбо-маршрут с именем 'my-combo' и стратегией 'priority', используя модели claude-opus-4-7 и gpt-4o.
Протестируй конфигурацию маршрута с ID {id} на сообщениях с ролью 'user' и текстом 'test'.
Получи метрики для маршрута с ID {id}, включая задержку p50/p95/p99 и успешность.

Что понадобится

  • Действующий Bearer token или сессия cookie для аутентификации.
  • Переменные окружения OMNIROUTE_URL и OMNIROUTE_KEY (или локальная настройка REQUIRE_API_KEY=false).

Описание составлено по SKILL.md навыка, сверено 22.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «cheaper-inference-omni-combos-routing» из репозитория: # https://github.com/cheaper-inference/omniroute
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r cheaper-inference-omni-combos-routing/ ~/.claude/skills/cheaper-inference-omni-combos-routing/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.