AIKraft/Skills/cli-chat

cli-chat

Отправляет запросы к LLM, получает потоковые ответы и запускает интерактивную REPL-сессию из командной строки. Поддерживает всех провайдеров OmniRoute, комбинированную маршрутизацию и настройку системного промпта.

CICheaper Inference official Разработка ★ 79.4k

Что делает навык

cli-chat — это инструмент командной строки для отправки запросов к LLM через OmniRoute с поддержкой потоковой передачи ответов и запуска интерактивной REPL-сессии. Он позволяет использовать всех провайдеров OmniRoute, комбинированную маршрутизацию и настраивать системный промпт.

Когда применять

  • Быстрый обмен сообщениями с LLM из терминала с возможностью потоковой передачи ответов.
  • Запуск интерактивной REPL-сессии для длительного диалога с LLM.
  • Использование комбинированной маршрутизации для выбора оптимальной модели или провайдера.
  • Настройка параметров генерации, таких как максимальное количество токенов, температура и top-p.

Как работает

  1. Установите пакет через npm: `npm install -g omniroute` или используйте `npx omniroute`.
  2. Запустите команду `omniroute chat [prompt]` для отправки запроса и получения ответа.
  3. Используйте флаги, такие как `--file`, `--stdin`, `-s` для системного промпта, `-m` для выбора модели, `--combo` для комбинированной маршрутизации.
  4. Для потоковой передачи ответов добавьте флаг `--stream`.
  5. Запустите интерактивную REPL-сессию с помощью команды `omniroute repl`.
  6. Настройте параметры генерации, такие как `--max-tokens`, `--temperature`, `--top-p`.

Примеры запросов агенту

Отправить запрос к LLM с использованием системного промпта: `omniroute chat 'Привет, как дела?' -s 'Ты помощник.'`
Запустить интерактивную REPL-сессию с выбором модели: `omniroute repl -m gpt-4`
Получить потоковый ответ с использованием комбинированной маршрутизации: `omniroute stream 'Объясни квантовую физику' --combo best`

Что понадобится

  • Установленный Node.js и npm для работы с пакетом omniroute.
  • Ключи доступа к провайдерам LLM, поддерживаемым OmniRoute.

Описание составлено по SKILL.md навыка, сверено 22.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «cheaper-inference-cli-chat» из репозитория: # https://github.com/cheaper-inference/omniroute
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r cheaper-inference-cli-chat/ ~/.claude/skills/cheaper-inference-cli-chat/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.