Проблема: повторные затраты в одних и тех же репозиториях
AI-агенты для программирования (такие как Claude Code, Codex, GitHub Copilot CLI) часто работают в одних и тех же проектах, но каждый раз «перечитывают» контекст с нуля. Это приводит к избыточным расходам токенов на отправку одних и тех же инструкций, определений инструментов и истории диалога. Microsoft Research и UC Berkeley разработали решение, которое не меняет саму модель агента, а оптимизирует процесс через внеш плагин, сохраняя данные локально в ~/.tokeneconomizer.
Три механизма экономии
TokenEconomizer использует три подхода для снижения стоимости, опираясь на накопленный опыт работы с конкретным репозиторием:
- Micro-skills (Микронавыки): Система запоминает специфичные факты о проекте (например, команду сборки
python -m pytestили путь к сгенерированным файлам). Факт фиксируется, если он подтвержден в 3 сессиях, и удаляется, если противоречится новым данным. Это исключает повторное объяснение базовых вещей агенту. - Tool Pruning (Отсечение инструментов): Если инструмент не используется в течение 10 промптов за 2 сессии (или 5 сессий любой длины), он отключается в настройках агента. Это резко сокращает объем контекста, отправляемого на каждый запрос.
- Failure-loop Intervention (Защита от зацикливания): Если агент застревает в цикле ошибок, модель-судья (Judge) анализирует ситуацию. При уверенности ≥70% она предлагает краткую подсказку для смены подхода. Если это не помогает, система уведомляет пользователя, но не прерывает сессию автоматически, оставляя контроль за разработчиком.
Результаты бенчмарков SWE-Bench
Эксперименты проводились на 277 задачах SWE-Bench из 6 репозиториев. TokenEconomizer показал стабильное снижение стоимости при сохранении или улучшении качества решения (Pass@1). Экономия достигалась за счет кэширования токенов и учета стоимости самих вызовов плагина.
| Метрика | Результат | Детали |
|---|---|---|
| Снижение стоимости | 18.4–30.9% | Среднее значение по 5 комбинациям агент-модель. В отдельных ячейках (репозиторий × комбинация) экономия достигала 5–40%. |
| Качество (Pass@1) | Рост в 4 из 5 случаев | В 4 из 5 тестовых комбинаций качество решения задач не упало, а в некоторых улучшилось благодаря более чистому контексту. |
| Web-Bench | 16–21% дешевле | Результаты подтверждены на другом наборе задач, демонстрируя универсальность метода. |
| Security Auditing | 6–20% дешевле | Экономия сохраняется даже на задачах с новыми репозиториями, где опыт накапливается медленнее. |
Поддержка и установка
Плагин не требует отдельного API-ключа и работает через существующие учетные записи пользователей. Он совместим с Claude Code, Codex, GitHub Copilot CLI, Pi, а также имеет экспериментальную поддержку для opencode, Cursor Agent, Grok Build, Hermes Agent, Antigravity CLI и Factory Droid.
Установка осуществляется через стандартные маркетплейсы плагинов (например, claude plugin marketplace add), а все обученные данные хранятся локально, обеспечивая приватность кода.
Источник: Github ↗
