LLM-подключения

LLM-подключения позволяют добавить несколько конфигураций AI-провайдеров и переключаться между ними. Каждая сессия фиксируется на конкретном подключении после первого сообщения, а workspace могут определять собственное подключение по умолчанию.

Расположение

LLM-подключения хранятся в:

~/.craft-agent/config.json

Как используются подключения

Подключения разрешаются в следующем порядке:

1. Подключение сессии (фиксируется после первого сообщения)
2. Подключение по умолчанию для workspace (defaults.defaultLlmConnection)
3. Глобальное подключение по умолчанию (defaultLlmConnection)
4. Первое подключение в списке (резервный вариант)

Каждая сессия фиксируется на подключении после первого сообщения. Чтобы изменить подключение, начните новую сессию.

Схема подключения

{
  "slug": "anthropic-api",
  "name": "Anthropic (API Key)",
  "providerType": "anthropic",
  "authType": "api_key",
  "baseUrl": "https://api.anthropic.com",
  "defaultModel": "claude-sonnet-5",
  "createdAt": 1737451800000
}

Поля

Значения providerType

Значения authType

Примеры

Anthropic (API Key)

{
  "slug": "anthropic-api",
  "name": "Anthropic (API Key)",
  "providerType": "anthropic",
  "authType": "api_key",
  "defaultModel": "claude-sonnet-5",
  "createdAt": 1737451800000
}

Claude Max (OAuth)

{
  "slug": "claude-max",
  "name": "Claude Max",
  "providerType": "anthropic",
  "authType": "oauth",
  "defaultModel": "claude-opus-4-8",
  "createdAt": 1737451800000
}

claude-opus-4-8 — текущая модель Opus по умолчанию. claude-opus-4-7 остаётся доступной как предыдущее поколение. Существующие подключения, зафиксированные на Opus 4.7, обновляются до Opus 4.8 при запуске; более старые выборы (Opus 4.5 или 4.6) мигрируют на лучшую доступную модель Opus. Opus 4.6 удалена из списка моделей.

Claude Sonnet 5 (claude-sonnet-5) — текущая модель Sonnet по умолчанию с окном контекста 1M токенов и лучшим сочетанием скорости и интеллекта для повседневных задач. Доступна на прямых подключениях Anthropic и на AWS Bedrock (профили вывода us/eu/global). claude-sonnet-4-6 остаётся доступной как предыдущее поколение Sonnet. Opus 4.8 всё ещё является глобальной моделью по умолчанию по всему приложению; выбирайте Sonnet 5 в выборщике моделей (или установите defaultModel: "claude-sonnet-5" на подключении), когда хотите скорость больше глубины. Отключение режима мышления работает нормально на Sonnet 5.

OpenRouter (совместимый с Anthropic)

{
  "slug": "openrouter",
  "name": "OpenRouter",
  "providerType": "anthropic_compat",
  "authType": "api_key_with_endpoint",
  "baseUrl": "https://openrouter.ai/api",
  "models": [
    "anthropic/claude-opus-4.8",
    "anthropic/claude-haiku-4.5"
  ],
  "defaultModel": "anthropic/claude-opus-4.8",
  "createdAt": 1737451800000
}

OpenRouter (совместимый с OpenAI)

{
  "slug": "openrouter-openai",
  "name": "OpenRouter (OpenAI‑compat)",
  "providerType": "openai_compat",
  "authType": "api_key_with_endpoint",
  "baseUrl": "https://openrouter.ai/api/v1",
  "models": [
    "openai/gpt-5.2-codex",
    "openai/gpt-5.1-codex-mini"
  ],
  "defaultModel": "openai/gpt-5.2-codex",
  "createdAt": 1737451800000
}

AWS Bedrock (IAM Credentials)

{
  "slug": "bedrock",
  "name": "AWS Bedrock",
  "providerType": "bedrock",
  "authType": "iam_credentials",
  "awsRegion": "us-east-1",
  "defaultModel": "claude-sonnet-5",
  "createdAt": 1737451800000
}

С iam_credentials ваш AWS Access Key ID, Secret Access Key и необязательный Session Token хранятся безопасно и инжектируются в окружение подпроцесса во время выполнения. Используйте это, когда хотите настроить учётные данные непосредственно в интерфейсе.

AWS Bedrock (Environment)

{
  "slug": "bedrock",
  "name": "AWS Bedrock",
  "providerType": "bedrock",
  "authType": "environment",
  "awsRegion": "us-east-1",
  "defaultModel": "claude-sonnet-5",
  "createdAt": 1737451800000
}

С environment подпроцесс наследует цепочку учётных данных вашей оболочки — ~/.aws/credentials, AWS_PROFILE, IAM-роли, SSO-сессии и переменные окружения все работают. Никакие учётные данные не хранятся в AIKraft Agents.

Чтобы настроить Bedrock в интерфейсе: Настройки → AI → Добавить подключение → Я использую другого провайдера → Amazon Bedrock. Можно выбрать между аутентификацией IAM Credentials и Environment (AWS CLI).

Установите awsRegion на регион, где у вас включён доступ к моделям Bedrock (например, us-east-1, us-west-2, eu-west-1).

Codex / OpenAI (OAuth)

{
  "slug": "codex",
  "name": "OpenAI (Codex)",
  "providerType": "openai",
  "authType": "oauth",
  "codexPath": "/Applications/AIKraft Agents.app/Contents/Resources/vendor/codex/darwin-arm64/codex",
  "defaultModel": "codex-mini-latest",
  "createdAt": 1737451800000
}

Возможности пользовательских конечных точек

Пользовательские конечные точки по умолчанию имеют окно контекста 128K и только текстовый ввод. Если ваша модель поддерживает большее окно контекста или принимает изображения, укажите эти возможности явно в конфигурации подключения.

Для переключения поддержки изображений для конкретной модели выборщик моделей в чат-вводе теперь отображает инлайн-иконку изображения на каждой строке подключения с пользовательской конечной точкой — один клик переключает models[i].supportsImages и сохраняет изменения. См. API Providers → Image Input for Custom Endpoints. JSON-формы ниже по-прежнему полезны для автоматизации и для установки customEndpoint.supportsImages (широкая настройка для конечной точки), которая не имеет интерфейса.

Переопределения для отдельных моделей (рекомендуется)

Используйте объекты моделей, когда конечная точка содержит смешанные текстовые и мультимодальные модели:

{
  "slug": "ollama",
  "name": "Ollama",
  "providerType": "pi_compat",
  "authType": "none",
  "baseUrl": "http://localhost:11434/v1",
  "customEndpoint": { "api": "openai-completions" },
  "models": [
    { "id": "gemma4", "contextWindow": 262144, "supportsImages": true },
    { "id": "qwen3-coder", "contextWindow": 131072 }
  ],
  "defaultModel": "gemma4",
  "createdAt": 1737451800000
}

Включение для всей конечной точки

Если все модели за конечной точкой являются мультимодальными, можно включить поддержку изображений на уровне конечной точки:

{
  "customEndpoint": {
    "api": "openai-completions",
    "supportsImages": true
  }
}

AIKraft Agents не выполняет автоматическое обнаружение поддержки изображений для произвольных конечных точек. Пользовательские конечные точки остаются текстовыми, если вы не установите supportsImages: true на уровне конечной точки или модели. Обычные строковые записи моделей продолжают использовать окно контекста по умолчанию 128K и только текстовый ввод.

Для моделей, таких как Gemma 4, обслуживаемых через Ollama, vLLM или другой OpenAI-совместимый прокси, предпочтительнее использовать форму для отдельных моделей, чтобы только модель с поддержкой vision включала ввод изображений.

Поведение при промежуточной отправке

Когда вы отправляете сообщение, пока агент всё ещё передаёт предыдущий ход, AIKraft Agents должен решить, доставить ли его в текущий поток или отложить для следующего. Поле midStreamBehavior на подключении управляет этим.

{
  "slug": "anthropic-api",
  "providerType": "anthropic",
  "authType": "api_key",
  "midStreamBehavior": "queue",
  "createdAt": 1737451800000
}

Значения по умолчанию для бэкендов

Если midStreamBehavior опущено (наследуемые подключения, новые установки), значение по умолчанию зависит от бэкенда:

• anthropic → "queue". Эмуляция steer Claude опирается на вызов моделью инструмента перед завершением хода. Если ни один инструмент не вызван, steer не доставляется, и AIKraft Agents всё равно возвращается к повторному добавлению в очередь — при этом токены оригинального хода уже оплачены. Значение по умолчанию queue избегает потери раунд-трипа.
• pi / pi_compat → "steer". Нативный steer Pi не разрушительный: ваше сообщение доставляется после завершения текущего инструмента, полный контекст диалога сохраняется.

Изменение через интерфейс

Откройте Настройки → AI, прокрутите до секции Подключения, нажмите меню … на соответствующем подключении (или щёлкните правой кнопкой мыши по строке) и выберите Промежуточные отправки → Немедленно направить или Очередь до готовности. Выбор сохраняется на подключении и вступает в силу немедленно для следующей промежуточной отправки.

Это настройка для отдельного подключения, а не для сессии. Две сессии, использующие одно и то же подключение, будут использовать один и тот же режим.

Для описания концепции с точки зрения пользователя и walkthrough интерфейса см. Interactions → Sending while the agent is responding.

Управление подключениями

Подключения управляются в Настройки → AI:

• Добавление/редактирование/удаление подключений
• Установка глобального подключения по умолчанию
• Проверка статуса подключения
• Установка по умолчанию для отдельных workspace

Если вам нужен только один провайдер, оставьте одно подключение и установите его как по умолчанию.