AIKraft/Skills/omni-resilience

omni-resilience

Мониторит здоровье провайдеров, состояния circuit-breaker, метрики задержек (p50/p95/p99) и алерты бюджета. В реальном времени отслеживает кулдауны соединений и блокировки моделей.

CICheaper Inference official Разработка ★ 79.4k

Что делает навык

Навык обеспечивает мониторинг здоровья провайдеров, состояний circuit-breaker, метрик задержек (p50/p95/p99) и алертов бюджета в реальном времени. Он позволяет отслеживать кулдауны соединений, блокировки моделей и статистику использования токенов.

Когда применять

  • Проверка общего состояния системы и доступности провайдеров через endpoint health.
  • Анализ метрик производительности (latency, success rate) для конкретных провайдеров.
  • Контроль бюджета сессии и управление лимитами расходов (degrade/block/alert).
  • Диагностика состояния circuit-breaker и времени восстановления заблокированных провайдеров.
  • Получение аудита вызовов MCP-инструментов и статуса базы данных.

Как работает

  1. Получить токен аутентификации через POST /api/auth/login или использовать существующий Bearer token.
  2. Выполнить запрос GET /api/monitoring/health для получения системного здоровья, метрик памяти и состояний circuit-breaker.
  3. Запросить GET /api/providers/metrics для получения детальных метрик задержек (p50/p95/p99) и статуса circuit-breaker по каждому провайдеру.
  4. Использовать endpoint GET /api/quota для проверки использованных и доступных токенов/запросов с учетом resetAt.
  5. Настроить бюджетный лимит через POST /api/budget/guard, указав limitUsd и действие (degrade, block, alert).
  6. При использовании MCP-сервера применять инструменты omniroute_get_health, omniroute_get_provider_metrics и omniroute_check_quota.

Примеры запросов агенту

Проверь текущее состояние circuit-breaker для всех подключенных провайдеров.
Покажи метрики задержек p95 и p99 для провайдера anthropic за последнюю сессию.
Установи лимит бюджета в 5 долларов с действием degrade на модель openai/gpt-4o-mini при превышении.

Что понадобится

  • Действующий Bearer token или сессия (получается через POST /api/auth/login).
  • Переменные окружения OMNIROUTE_URL и OMNIROUTE_KEY.
  • Доступ к эндпоинтам API (например, localhost:20128 или удаленный URL).

Описание составлено по SKILL.md навыка, сверено 22.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «cheaper-inference-omni-resilience» из репозитория: # https://github.com/cheaper-inference/omniroute
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r cheaper-inference-omni-resilience/ ~/.claude/skills/cheaper-inference-omni-resilience/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.