prompt-caching-strategy
Оптимизирует структуру промптов для LLM, чтобы повысить кэш-хиты, снизить затраты на API и уменьшить задержки. Полезно при запросах про оптимизацию токенов, кэширование или удешевление вызовов OpenAI/Anthropic.
AIaffaan-m
official
Разработка
★ 280.5k
Что делает навык
Настраивает структуру промптов для LLM, размещая стабильный префикс перед изменяющимся суффиксом, чтобы максимизировать использование кэширования промптов. Это снижает затраты на API и задержки при повторных запросах, хотя и не уменьшает потребление контекстного окна.
Когда применять
- Оптимизация структуры промптов для повышения кэш-хитов и снижения затрат на вызовы OpenAI, Anthropic или Gemini.
- Анализ стоимости запросов с учетом различных тарифов на кэш-записи, чтения и хранение для выбора оптимальной стратегии.
- Разделение промптов на стабильные части (инструкции, инструменты) и динамические (вопросы, результаты поиска) для обеспечения переиспользования.
- Валидация арифметики экономии и расчет потенциальной выгоды без выполнения реальных вызовов к провайдеру.
Как работает
- Определите точный конечный пункт API, модель, уровень сервиса и режим кэширования, изучив текущую документацию провайдера.
- Сгруппируйте стабильные инструкции, схемы инструментов и примеры в неизменный префикс, а динамические данные поместите в суффикс.
- Соблюдайте порядок сериализации провайдера (например, для Claude: инструменты, система, сообщения) и обеспечьте точное совпадение префикса.
- Используйте функцию compareCacheCost с нормализованными счетчиками (uncached, written, read, output, storageTokenHours) и тарифами для расчета экономии.
- Разделите категории ввода (обычный, запись в кэш, чтение из кэш) и не применяйте скидки кэша к общему счету или токенам вывода.
- Записывайте метрики использования, такие как cached_tokens, cache_write_tokens и cache_read_tokens, для последующего анализа.
Примеры запросов агенту
Как оптимизировать структуру моего промпта для Claude, чтобы увеличить долю кэш-хитов и снизить стоимость запросов?
Рассчитай потенциальную экономию для 10 запросов с префиксом 10 000 токенов, используя тарифы OpenAI Chat Completions.
Проведи валидацию арифметики кэширования для модели Gemini с явным кэшем и временем хранения 2 часа.
Что понадобится
- Доступ к документации провайдера (OpenAI, Anthropic, Gemini) для проверки требований к модели и тарифов.
- Среда выполнения Node.js для запуска тестов и функции compareCacheCost.
- Авторизованный доступ к данным использования API (usage counters) для верификации реальных кэш-хитов.
Описание составлено по SKILL.md навыка, сверено 17.10.2026.
Как подключить
1Скачать навык
# возьмите папку навыка «prompt-caching-strategy» из репозитория:
# https://github.com/affaan-m/ecc
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r prompt-caching-strategy/ ~/.claude/skills/prompt-caching-strategy/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.