JuliusBrussee/caveman

Что это за инструмент

Caveman — это инструмент для оптимизации затрат на LLM, который сокращает количество токенов за счет сжатия промптов и ответов до «пещерного» стиля.

Зачем нужен

Инструмент решает проблему высоких расходов на API, уменьшая объем входных (input) и выходных (output) токенов. Он полезен разработчикам, которые хотят снизить стоимость использования LLM без потери качества кода и точности ответов.

Что можно реализовать

• Сокращение затрат на Claude Code, Codex, Gemini CLI и другие агенты за счет сжатия контекста
• Анализ истории запросов и выявление «токенных утечек» через отчеты Caveman Learn
• Автоматическое применение оптимизаций к промптам перед отправкой в провайдер LLM
• Использование в качестве навыка (skill) для 30+ совместимых AI-агентов

Ключевые возможности

• Сокращение входных токенов на 33.2% в бенчмарках при сохранении точности ответов
• Поддержка 8 нативных профилей обертки и более 30 совместимых агентов
• Локальный анализ истории сессий для оценки экономии (Cave Score)
• Два режима работы: сжатие входных данных (Proxy) и сжатие ответов (Skill)
• MIT лицензия для навыка и BSL-1.1 для рантайма прокси

👤 Кому подойдёт: разработчики, использующие AI-ассистентов для кодинга, и команды, оптимизирующие бюджет на LLM API