Миф о линейной экономии
Многие разработчики полагают, что замена Claude Opus на Haiku автоматически урежет счет на 75%, так как разница в цене токенов колоссальна. Однако в реальных сценариях с тяжелыми инструментами (tool-heavy agents) экономия составляет лишь малую долю от этой цифры. Проблема не в цене модели, а в агентном цикле (agent loop). Каждая итерация цикла — это отдельный вызов API, который генерирует новые входные и выходные токены, и именно эти объемы данных диктуют итоговую стоимость, а не базовый тариф модели.
Где реально сгорают деньги: планирование, инструменты и ретраи
Архитектура агента Anthropic предполагает цикл: планирование шага → действие через инструмент → чтение результата → решение о продолжении. Каждый этап биллинговый. Ключевые драйверы расходов:
- Повторная отправка контекста: Если задача требует 6 вызовов инструментов, результат первого вызова будет повторно отправлен как входные токены в следующих 5 запросах. API Messages API отправляет полную историю диалога на каждом шаге.
- Ретраи (повторные попытки): Если инструмент вернул некорректный ответ, агент не отправляет только ошибку. Он заново отправляет системный промпт, схемы инструментов и всю предыдущую историю. Один ретрай на длинной задаче может стоить дороже первоначального планирования.
- Thinking tokens: На моделях Opus 5.5+ блоки размышлений сохраняются в контексте и биллятся как входные токены в следующих шагах. На Sonnet и Haiku они удаляются между ходами, что снижает накладные расходы.
Сравнение моделей и тарифов Anthropic
Разница в стоимости токенов между флагманскими и легкими моделями значительна, но она «размывается» при высокой частоте вызовов. Ниже приведены актуальные ставки для сравнения:
| Модель | Цена за 1 млн входных токенов | Цена за 1 млн выходных токенов | Особенности контекста |
|---|---|---|---|
| Opus 5.5 | $15 | $75 | Thinking-токены сохраняются и биллятся как input |
| Sonnet 5.5 | $3 | $15 | Thinking-токены удаляются между ходами |
| Haiku 4.5 | $0.80 | $4 | Минимальные накладные расходы, но высокая частота вызовов нивелирует выгоду |
Легальный способ снизить счет: Batch Processing
Прежде чем оптимизировать архитектуру, проверьте, можно ли использовать асинхронную пакетную обработку (Batch API). Для фоновых задач, не требующих ответа в рамках текущего диалога (например, ночная индексация или суммаризация), Anthropic предоставляет скидку 50% на входные и выходные токены для всех трех моделей. Это первый и самый простой рычаг, который работает до применения любых архитектурных изменений.
Что измерять перед оптимизацией
Чтобы реально снизить затраты, нужно перестать смотреть только на цену токена. Аудит должен включать:
- Количество итераций в цикле агента (чем меньше, тем лучше).
- Объем входных токенов, генерируемых повторной отправкой истории диалога.
- Частоту ретраев и их стоимость в пересчете на полный контекст.
- Возможность кэширования системных промптов и схем инструментов (prompt cache), что снижает стоимость входных токенов для повторяющихся блоков.
Источник: Towards AI pub ↗