Катастрофический сбой с Claude Sonnet
Согласно отчетам Financial Times, Amazon обнаружил, что один из внутренних проектов по сопоставлению данных авторов с товарами на маркетплейсе обошелся компании в $1,8 миллиона. Изначально бюджет на задачу составлял ничтожно малую сумму, но из-за ошибки в настройке AI-агента расходы выросли на 860%. Проблема оставалась незамеченной в течение пяти месяцев, что подчеркивает сложность мониторинга потребления токенов в реальном времени.
Другие финансовые провалы
Проблемы с AI-расходами не ограничились одним случаем. Внутренний аудит выявил и другие проекты с критическим перерасходом средств, которые ранее считались «тривиально дешевыми»:
| Проект | Дополнительные расходы | Суть проблемы |
|---|---|---|
| Сопоставление авторов и товаров | $1 800 000 | Ошибка в AI-агенте (Claude), бюджет превышен на 860% |
| Инструмент финансового аудита | $541 000 | Иронично: инструмент для контроля расходов сам стал причиной убытков |
| Оптимизация логистики | $134 000 | Система сокращения времени доставки |
Почему это произошло?
Ключевой причиной стала смена бизнес-модели провайдеров AI: переход от подписок к оплате за каждый токен (per-token model). В сочетании с автоматизацией через AI-агентов, которые могут генерировать миллионы запросов, даже незначительные ошибки в коде приводят к экспоненциальному росту счетов. Amazon отметил, что такие случаи — это результат экспериментов, а не норма работы, но они демонстрируют риски масштабирования AI без строгого контроля.
Реакция Amazon и индустрии
Amazon уже предпринял шаги по исправлению ситуации: компания ограничила права доступа AI-агентов, чтобы они не имели тех же привилегий, что и старшие инженеры. Ранее Amazon даже отменил внутренний рейтинг сотрудников по использованию AI, так как «спирали роста затрат» заставили пересмотреть политику поощрения активности. Эксперты отмечают, что для гигантов вроде Amazon эти потери (менее 0,1% месячной выручки в $181 млрд) не критичны, но для среднего бизнеса модель «tokenmaxxing» становится финансово неустойчивой.
Источник: Tom's Hardware ↗