В 2026 году запуск локальных AI-агентов перестал быть нишевой задачей. Однако, в отличие от облачных решений, локальная инфраструктура требует жесткого контроля ресурсов. Агент — это не только модель, но и «шасси» (harness), которое управляет инструментами, состоянием и контекстом. При локальном инференсе слабые контекстные окна и ошибки вызова инструментов (tool calling) сразу выявляют архитектурные недостатки.
Ниже представлен рейтинг 11 open-source фреймворков, отобранных по критериям: лицензия OSI, документация локальных рантаймов, активность поддержки и безопасность. Все данные актуальны на сентябрь 2026 года.
01Три правила настройки локального агента
Прежде чем выбирать конкретный фреймворк, необходимо исправить базовые настройки, которые часто становятся причиной сбоев.
1. Расширьте окно контекста. Стандартные значения Ollama зависят от VRAM: 4k при < 24 GiB, 32k при 24–48 GiB и 256k при > 48 GiB. Для агентов и кодинга требуется минимум 64,000 токенов.
OLLAMA_CONTEXT_LENGTH=64000 ollama serve2. Выберите модель с поддержкой Tool Calling. Модели без этой функции поддерживают только чат. В llama.cpp флаг --jinja включает совместимые шаблоны чата и вызовы инструментов.
3. Честно оцените память. 16–32 ГБ RAM подходят для квантованных малых моделей, 32–64 ГБ — для средних кодинговых моделей, 64+ ГБ — для крупных. Например, gemma4 требует ~16 ГБ VRAM, а qwen3.6 — ~24 ГБ VRAM.
02Топ-3 фреймворка для разработки кода
1. OpenCode
Лидер по документации локальных путей: поддерживает Ollama, LM Studio и llama-server через пакет @ai-sdk/openai-compatible. Поддерживает 75+ провайдеров. Встроенные агенты: build (полный доступ) и plan (только чтение, запрос подтверждения для bash).
Установка в одну команду:
ollama launch opencodeЕсли вызовы инструментов падают, увеличьте num_ctx до 16k–32k.
2. Pi
Минималистичный выбор. Предоставляет всего 4 инструмента: read, write, edit, bash. Отсутствуют MCP, суб-агенты и моды планирования. Поддерживает llama.cpp router для динамической загрузки GGUF-файлов. Важно: нет встроенной системы разрешений, работает от прав пользователя. Рекомендуется Docker или микро-ВМ для изоляции.
ollama launch pi3. Cline
Лучший выбор для VS Code. По умолчанию требует подтверждения каждого редактирования файла и команды. Режимы Plan и Act разделяют стратегию и исполнение. Нюанс: плагины для JetBrains не являются open-source (Apache-2.0 только для VS Code/CLI/SDK).
03Универсальные и специализированные агенты
4. Goose
Разработан Linux Foundation (Agentic AI Foundation). Поддерживает Ollama, LM Studio, Docker Model Runner, Ramalama, Atomic Chat, vLLM, KServe. Написан на Rust, имеет десктопное приложение и CLI. Более 70 MCP-расширений. Идеален для общей автоматизации вне кода.
goose configure5. OpenHands
Рекомендует модель Qwen3.6-35B-A3B (мин. 24 ГБ VRAM или 64 ГБ унифицированной памяти Apple Silicon). Контекст: минимум 22,000 токенов (рекомендуется 32,768). Ловушка для Linux: LM Studio по умолчанию привязан к 127.0.0.1, что блокирует доступ из Docker. Включите «Serve on Local Network».
6. Aider
Решает проблему слабого tool calling через текстовые форматы редактирования (whole, diff). Отправляет карту репозитория с каждым запросом. Риск: Ollama молча отбрасывает контекст за пределами окна. Aider компенсирует это, увеличивая окно на 8k токенов для ответа. Версия 0.86.2 (февраль 2026).
7. Codex CLI
Apache-2.0. Встроенные провайдеры: Ollama (порт 11434) и LM Studio (порт 1234). По умолчанию использует gpt-oss:20b (codex --oss). Жесткое ограничение: работает только через API /v1/responses. Локальный сервер должен экспортировать этот эндпоинт. Есть встроенные песочницы для Linux/Windows.
8. Qwen Code
Основан на Google Gemini CLI v0.8.2. Поддерживает Ollama и vLLM. Требует Node.js 22+. Идеален для связки с моделями Qwen от той же лаборатории.
9. Kilo Code
Форк OpenCode (ранее Roo). Поддерживает Ollama, LM Studio, Atomic Chat. Предупреждает об отсутствии кэширования промптов и computer use у локальных моделей.
10. Hermes Agent
От Nous Research. Не для кода, а для личных ассистентов. Цикл обучения: создает навыки из опыта. 70+ навыков, кросс-сессийная память. Интеграция с Telegram, Discord, Slack, WhatsApp, Signal, Email. Настройка на http://127.0.0.1:11434/v1.
11. OpenClaw
Самый популярный проект (много звезд). Личный ассистент, связывающий мессенджеры с AI через шлюз. Требует контекст 64k+. Безопасность: при первом запуске показывает предупреждения о рисках доступа к инструментам. Подходит для пользователей, готовых управлять поверхностью атак.
04Кому подойдёт / что запустится
| Фреймворк | Лучше всего для | Мин. VRAM (примерно) | Ключевая особенность |
|---|---|---|---|
| OpenCode | Разработчики, терминал | 8-16 GB | Самая широкая документация локальных путей |
| Pi | Малые модели, минимализм | 4-8 GB | 4 инструмента, нужна внешняя изоляция |
| Goose | Общая автоматизация | 16 GB | Руст, Linux Foundation, 70+ MCP |
| Cline | VS Code, контроль | 16 GB | Человек в цикле (human-in-the-loop) |
| OpenHands | Долгие задачи, Docker | 24 GB | Qwen3.6, специфичная настройка сети |
| Aider | Git-парное программирование | 8-16 GB | Работа с diff/whole при слабом tool calling |
| Codex CLI | Команды, sandbox | 16 GB | Только Responses API, встроенные песочницы |
| Hermes | Личный ассистент, мессенджеры | 16 GB | Telegram/Discord/Slack интеграция |
Для пользователей из РФ актуально использовать локальные серверы (Ollama, LM Studio) с моделями, доступными на HuggingFace или через локальные зеркала. Учитывая ограничения на импорт некоторых GPU, оптимизация под VRAM (квантование GGUF/AWQ) и настройка контекстного окна остаются главными задачами для стабильной работы агентов.
Источник: MarkTechPost ↗