AIKraft/Skills/cli-batches

cli-batches

Отправляйте и контролируйте пакетные задачи инференса через CLI, управляйте файлами и интегрируйте пайплайны с CI/CD. Используйте для загрузки данных, получения результатов и автоматизации cheaper-inference/omniroute.

CICheaper Inference official Разработка ★ 79.4k

Что делает навык

Навык позволяет отправлять, контролировать и управлять пакетными задачами инференса через CLI, а также загружать файлы и интегрировать пайплайны с CI/CD. Он обеспечивает полный цикл работы с пакетами: от создания и отправки данных до получения результатов и ошибок.

Когда применять

  • Отправка пакетных запросов к моделям через endpoint с использованием JSONL-файлов.
  • Мониторинг статуса пакетных задач и ожидание их завершения с настройкой таймаута.
  • Загрузка входных данных в виде файлов для последующей обработки в пакетах.
  • Получение результатов выполнения пакетов или списка ошибок в отдельные файлы.
  • Автоматизация процессов инференса в CI/CD пайплайнах.

Как работает

  1. Установите инструмент omniroute глобально через npm или используйте npx.
  2. Загрузите входные данные с помощью команды files upload, указав путь к файлу и цель (purpose).
  3. Создайте пакетную задачу через batches create, указав файл ввода, endpoint и метаданные.
  4. Отправьте данные для обработки через batches submit, предоставив JSONL-файл и endpoint.
  5. Отслеживайте статус задач через batches list или batches get, фильтруя по статусу.
  6. Дождитесь завершения задачи с помощью batches wait или получите результаты через batches output.

Примеры запросов агенту

Отправь пакетный запрос к модели, используя файл data.jsonl, и дождись результата.
Загрузи файл input.jsonl как входные данные для пакетной обработки и создай новую задачу.
Проверь статус всех активных пакетов и получи список ошибок для завершённой задачи.

Что понадобится

  • Установленный npm и пакет omniroute (npm install -g omniroute)
  • Доступ к API omniroute/cheaper-inference
  • Наличие JSONL-файлов или других входных данных для пакетов

Описание составлено по SKILL.md навыка, сверено 22.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «cheaper-inference-cli-batches» из репозитория: # https://github.com/cheaper-inference/omniroute
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r cheaper-inference-cli-batches/ ~/.claude/skills/cheaper-inference-cli-batches/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.