Weave Router: умная маршрутизация LLM в Cursor, Claude и Codex

Разработка на ИИ часто упирается в дилемму: использовать дорогую, но умную модель (например, Claude Sonnet или GPT-4o) для сложных задач или дешевую (GPT-4o-mini, Llama) для простых. Ручное переключение контекста или промптов неэффективно. Решение — Weave Router: локальный прокси-сервер, который выступает единой точкой входа для ваших AI-инструментов, автоматически маршрутизируя каждый запрос к оптимальной модели из пула провайдеров (Anthropic, OpenAI, Gemini, OpenRouter).

Система использует встроенный эмбеддер и кластерный скорер (на базе модели Avengers-Pro), чтобы анализировать сложность запроса и выбирать модель «на лету». Все ключи провайдеров хранятся локально, зашифрованы, а трассировка (OTLP) доступна через встроенный дашборд.

01Быстрый старт: запуск без установки

Самый простой способ начать — использовать npx-обертку. Она не требует Docker или PostgreSQL и автоматически настраивает интеграцию с выбранным инструментом. Требуется Node.js ≥ 18.

Для автоматической настройки Claude Code:

npx @workweave/router --claude

Для OpenAI Codex CLI:

npx @workweave/router --codex

Для opencode:

npx @workweave/router --opencode

Если вы хотите запустить локальный сервер для самостоятельной конфигурации или использования с Cursor, добавьте флаг --local:

npx @workweave/router --local

После запуска сервер будет доступен по адресу http://localhost:8080.

02Локальная установка (Self-Hosted)

Для полного контроля над конфигурацией и использованием встроенного дашборда мониторинга рекомендуется развернуть стек локально. Требуется Docker и Make.

1. Создайте файл окружения с ключом OpenRouter (рекомендуется как базовый провайдер, поддерживающий множество моделей):

echo OPENROUTER_API_KEY=sk-or-v1-... >> .env.local

2. Запустите PostgreSQL и сам роутер:

make full-setup

После выполнения команды роутер будет доступен на http://localhost:8080, а веб-интерфейс дашборда — на http://localhost:8080/ui/dashboard (пароль: admin). В логах появится ваш уникальный ключ роутера rk_....

03Интеграция с IDE и CLI-инструментами

Weave Router поддерживает нативную интеграцию с популярными инструментами разработки. Ниже приведены способы подключения.

Claude Code

Команда make install-cc автоматически настраивает Claude Code на использование локального роутера. Также можно использовать npx @workweave/router --claude для облачной версии или локальной.

Cursor

Cursor поддерживает роутинг через настройку переопределения базового URL. Перейдите в Settings → Models → Override OpenAI Base URL и укажите:

http://localhost:8080/v1

В поле API Key вставьте ваш ключ роутера rk_.... Примечание: интеграция находится в бета-версии, производительность может отличаться от нативной.

OpenAI Codex CLI

Используйте флаг --codex при установке. Скрипт модифицирует файл ~/.codex/config.toml, добавляя блок [model_providers.weave] и устанавливая model_provider = "weave". Ключи OpenAI для плановых запросов передаются через переменную окружения OPENAI_API_KEY, а ключ роутера передается в заголовке X-Weave-Router-Key.

04API и управление маршрутизацией

Роутер совместим с API Anthropic, OpenAI и Gemini. Вы можете отправлять запросы напрямую через curl для тестирования или отладки.

Пример запроса в формате Anthropic Messages:

curl -sS http://localhost:8080/v1/messages \
  -H "Authorization: Bearer rk_..." \
  -d '{"model":"claude-sonnet-4-5","max_tokens":256,"messages":[{"role":"user","content":"hi"}]}'

Пример запроса в формате OpenAI Chat Completions:

curl -sS http://localhost:8080/v1/chat/completions \
  -H "Authorization: Bearer rk_..." \
  -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"hi"}]}'

Для проверки решения роутера без выполнения запроса к LLM используйте эндпоинт /v1/route:

curl -sS http://localhost:8080/v1/route -H "Authorization: Bearer rk_..." -d '{"messages":[{"role":"user","content":"test"}]}'

05Дополнительные возможности

Включение/Отключение: Вы можете временно отключить роутинг, вернув прямой доступ к провайдеру, не удаляя конфигурацию. Для Claude Code используйте команду npx @workweave/router off --claude или слэш-команду /router-off. Для Cursor просто измените URL обратно в настройках.

HMM Policy Sidecar: По у

Источник: Hacker News ↗