AIKraft Agents
Инструменты5 ноября 2026 г., 13:46 МСК🤖 Auto

Claude Code через шлюз: как подключить любые LLM и сэкономить

Just AI показала, как направить Claude Code на сторонние модели через API-шлюз Caila, решив проблемы с оплатой, ключами и совместимостью агентного цикла.

Баннер новости 11300

Почему это важно: от нишевого инструмента к корпоративному стандарту

За полтора года Claude Code трансформировался из хобби энтузиастов в основной инструмент разработки. По данным Developer Ecosystem Survey 2026 (JetBrains, 15 000+ респондентов), 39% разработчиков используют Claude Code, а 31% называют его основным инструментом. При этом аудитория расширяется: после IT-специалистов второй по величине сегмент — бизнес, финансы, юристы и менеджеры.

Проблема корпоративного использования кроется в инфраструктуре: разные провайдеры (Anthropic, Gemini, открытые модели) требуют разных аккаунтов, ключей и лимитов. Это создает хаос с секретами и счетами. Решение — использование API-шлюза, который берет на себя маршрутизацию, оплату и управление доступом, оставляя разработчику привычный клиент.

Техническая суть: ANTHROPIC_BASE_URL и агентный цикл

Claude Code позволяет перенаправить запросы на сторонний сервер через переменную окружения ANTHROPIC_BASE_URL. Однако «совместимость с Anthropic API» не гарантирует работу любой модели. Claude Code работает в агентном цикле: модель запрашивает инструменты (чтение файлов, запуск команд), клиент выполняет их и возвращает результат, отправляя полную историю диалога на каждом шаге.

Это создает две критические требования к шлюзу:

  • Полная совместимость на каждом шаге: шлюз должен корректно обрабатывать системные инструкции, описания инструментов и историю.
  • Кэширование контекста: стоимость длинной сессии сильно зависит от того, как шлюз кэширует повторяющийся контекст, чтобы снизить расходы на токены.

Эндпоинты и ограничения шлюза

Для стабильной работы Claude Code шлюз должен поддерживать специфичные эндпоинты. Ниже приведена таблица обязательных и опциональных точек взаимодействия:

Эндпоинт Обязателен? Последствия отключения
POST /v1/messages Да Полная неработоспособность клиента
POST /v1/messages/count_tokens Нет В интерфейсе показывается оценка по символам, а не точный подсчет токенов
GET /v1/models?limit=1000 Нет Список моделей в меню ограничен встроенным набором клиента

Важные технические нюансы:

  • Стриминг: Шлюз обязан передавать SSE-пинги во время генерации. Если шлюз буферизует ответ и отдает его целиком, клиент считает агент зависшим и разрывает соединение.
  • Автообнаружение моделей: При включении CLAUDE_CODE_ENABLE_GATEWAY_MODEL_DISCOVERY=1 клиент запрашивает список моделей. Однако он фильтрует их: в меню попадают только модели, в ID которых есть claude или anthropic. Например, vertex_ai/claude-sonnet-4-6 появится, а z-ai/glm-5.3-flash — нет, даже если шлюз вернул её.
  • Кастомные модели: Для использования сторонних LLM (GPT, Gemini, GLM) требуется ручное добавление через ANTHROPIC_CUSTOM_MODEL_OPTION.

Режимы работы: Штатный vs Экспериментальный

В Just AI (платформа Caila) выделяют два сценария подключения:

  1. Штатный режим: За шлюзом стоят модели Claude. Шлюз выступает прозрачным прокси, сохраняя заголовки, потоковую передачу и поля API. Задача — минимизировать задержки и ошибки маршрутизации.
  2. Экспериментальный режим: За шлюзом стоят другие LLM (GPT, Gemini, Grok, Kimi и др.). Шлюз выполняет сложную конвертацию: переводит запрос из формата Anthropic в формат целевой модели, получает ответ и конвертирует его обратно в формат, понятный Claude Code. Это требует глубокой адаптации системных инструкций и вызовов инструментов.

Практическая выгода для команд

Использование шлюза решает конкретные бизнес-задачи:

  • Доступ: Обход ограничений платежей (например, прекращение обслуживания российских аккаунтов в OpenRouter с июня 2026 года) и необходимость зарубежных карт.
  • Безопасность: Внешние ключи провайдеров остаются на стороне шлюза. Разработчики получают ограниченные ключи платформы, которые можно отозвать без влияния на весь аккаунт провайдера.
  • Экономия: Для сотрудников, использующих Claude Code эпизодически, подписка невыгодна. Шлюз позволяет платить только за потребленные токены. Для активных пользователей шлюз помогает оптимизировать расходы через кэширование и выбор более дешевых моделей для рутинных задач.

Источник: Habr ↗