AIKraft/Skills/prompt-caching-strategy

prompt-caching-strategy

Оптимизирует структуру промптов для LLM, чтобы повысить кэш-хиты, снизить затраты на API и уменьшить задержки. Полезно при запросах про оптимизацию токенов, кэширование или удешевление вызовов OpenAI/Anthropic.

affaan-m official Разработка ★ 280.5k

Что делает навык

Настраивает структуру промптов для LLM, размещая стабильный префикс перед изменяющимся суффиксом, чтобы максимизировать использование кэширования промптов. Это снижает затраты на API и задержки при повторных запросах, хотя и не уменьшает потребление контекстного окна.

Когда применять

  • Оптимизация структуры промптов для повышения кэш-хитов и снижения затрат на вызовы OpenAI, Anthropic или Gemini.
  • Анализ стоимости запросов с учетом различных тарифов на кэш-записи, чтения и хранение для выбора оптимальной стратегии.
  • Разделение промптов на стабильные части (инструкции, инструменты) и динамические (вопросы, результаты поиска) для обеспечения переиспользования.
  • Валидация арифметики экономии и расчет потенциальной выгоды без выполнения реальных вызовов к провайдеру.

Как работает

  1. Определите точный конечный пункт API, модель, уровень сервиса и режим кэширования, изучив текущую документацию провайдера.
  2. Сгруппируйте стабильные инструкции, схемы инструментов и примеры в неизменный префикс, а динамические данные поместите в суффикс.
  3. Соблюдайте порядок сериализации провайдера (например, для Claude: инструменты, система, сообщения) и обеспечьте точное совпадение префикса.
  4. Используйте функцию compareCacheCost с нормализованными счетчиками (uncached, written, read, output, storageTokenHours) и тарифами для расчета экономии.
  5. Разделите категории ввода (обычный, запись в кэш, чтение из кэш) и не применяйте скидки кэша к общему счету или токенам вывода.
  6. Записывайте метрики использования, такие как cached_tokens, cache_write_tokens и cache_read_tokens, для последующего анализа.

Примеры запросов агенту

Как оптимизировать структуру моего промпта для Claude, чтобы увеличить долю кэш-хитов и снизить стоимость запросов?
Рассчитай потенциальную экономию для 10 запросов с префиксом 10 000 токенов, используя тарифы OpenAI Chat Completions.
Проведи валидацию арифметики кэширования для модели Gemini с явным кэшем и временем хранения 2 часа.

Что понадобится

  • Доступ к документации провайдера (OpenAI, Anthropic, Gemini) для проверки требований к модели и тарифов.
  • Среда выполнения Node.js для запуска тестов и функции compareCacheCost.
  • Авторизованный доступ к данным использования API (usage counters) для верификации реальных кэш-хитов.

Описание составлено по SKILL.md навыка, сверено 17.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «prompt-caching-strategy» из репозитория: # https://github.com/affaan-m/ecc
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r prompt-caching-strategy/ ~/.claude/skills/prompt-caching-strategy/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.