CI
cli-chat
Отправляет запросы к LLM, получает потоковые ответы и запускает интерактивную REPL-сессию из командной строки. Поддерживает всех провайдеров OmniRoute, комбинированную маршрутизацию и настройку системного промпта.
Что делает навык
cli-chat — это инструмент командной строки для отправки запросов к LLM через OmniRoute с поддержкой потоковой передачи ответов и запуска интерактивной REPL-сессии. Он позволяет использовать всех провайдеров OmniRoute, комбинированную маршрутизацию и настраивать системный промпт.
Когда применять
- Быстрый обмен сообщениями с LLM из терминала с возможностью потоковой передачи ответов.
- Запуск интерактивной REPL-сессии для длительного диалога с LLM.
- Использование комбинированной маршрутизации для выбора оптимальной модели или провайдера.
- Настройка параметров генерации, таких как максимальное количество токенов, температура и top-p.
Как работает
- Установите пакет через npm: `npm install -g omniroute` или используйте `npx omniroute`.
- Запустите команду `omniroute chat [prompt]` для отправки запроса и получения ответа.
- Используйте флаги, такие как `--file`, `--stdin`, `-s` для системного промпта, `-m` для выбора модели, `--combo` для комбинированной маршрутизации.
- Для потоковой передачи ответов добавьте флаг `--stream`.
- Запустите интерактивную REPL-сессию с помощью команды `omniroute repl`.
- Настройте параметры генерации, такие как `--max-tokens`, `--temperature`, `--top-p`.
Примеры запросов агенту
Отправить запрос к LLM с использованием системного промпта: `omniroute chat 'Привет, как дела?' -s 'Ты помощник.'`
Запустить интерактивную REPL-сессию с выбором модели: `omniroute repl -m gpt-4`
Получить потоковый ответ с использованием комбинированной маршрутизации: `omniroute stream 'Объясни квантовую физику' --combo best`
Что понадобится
- Установленный Node.js и npm для работы с пакетом omniroute.
- Ключи доступа к провайдерам LLM, поддерживаемым OmniRoute.
Описание составлено по SKILL.md навыка, сверено 22.10.2026.
Как подключить
1Скачать навык
# возьмите папку навыка «cheaper-inference-cli-chat» из репозитория:
# https://github.com/cheaper-inference/omniroute
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r cheaper-inference-cli-chat/ ~/.claude/skills/cheaper-inference-cli-chat/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.