CI
cli-batches
Отправляйте и контролируйте пакетные задачи инференса через CLI, управляйте файлами и интегрируйте пайплайны с CI/CD. Используйте для загрузки данных, получения результатов и автоматизации cheaper-inference/omniroute.
Что делает навык
Навык позволяет отправлять, контролировать и управлять пакетными задачами инференса через CLI, а также загружать файлы и интегрировать пайплайны с CI/CD. Он обеспечивает полный цикл работы с пакетами: от создания и отправки данных до получения результатов и ошибок.
Когда применять
- Отправка пакетных запросов к моделям через endpoint с использованием JSONL-файлов.
- Мониторинг статуса пакетных задач и ожидание их завершения с настройкой таймаута.
- Загрузка входных данных в виде файлов для последующей обработки в пакетах.
- Получение результатов выполнения пакетов или списка ошибок в отдельные файлы.
- Автоматизация процессов инференса в CI/CD пайплайнах.
Как работает
- Установите инструмент omniroute глобально через npm или используйте npx.
- Загрузите входные данные с помощью команды files upload, указав путь к файлу и цель (purpose).
- Создайте пакетную задачу через batches create, указав файл ввода, endpoint и метаданные.
- Отправьте данные для обработки через batches submit, предоставив JSONL-файл и endpoint.
- Отслеживайте статус задач через batches list или batches get, фильтруя по статусу.
- Дождитесь завершения задачи с помощью batches wait или получите результаты через batches output.
Примеры запросов агенту
Отправь пакетный запрос к модели, используя файл data.jsonl, и дождись результата.
Загрузи файл input.jsonl как входные данные для пакетной обработки и создай новую задачу.
Проверь статус всех активных пакетов и получи список ошибок для завершённой задачи.
Что понадобится
- Установленный npm и пакет omniroute (npm install -g omniroute)
- Доступ к API omniroute/cheaper-inference
- Наличие JSONL-файлов или других входных данных для пакетов
Описание составлено по SKILL.md навыка, сверено 22.10.2026.
Как подключить
1Скачать навык
# возьмите папку навыка «cheaper-inference-cli-batches» из репозитория:
# https://github.com/cheaper-inference/omniroute
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r cheaper-inference-cli-batches/ ~/.claude/skills/cheaper-inference-cli-batches/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.