Суть инцидента: Экспоненциальный рост скорости R&D
С 12 августа по 29 октября 2026 года сотрудники METR провели аудит с высоким уровнем доступа к внутренним данным Anthropic. Целью было оценить, насколько ИИ-системы ускоряют собственную разработку (AI R&D acceleration). Результат шокирует: к октябрю 2026 года Anthropic улучшает способности своих моделей на четко определенных задачах примерно в 2 раза быстрее, чем в период с марта 2024 по октябрь 2025 года.
Это означает, что за последний год компания совершила прогресс, эквивалентный двум годам исторического развития. При этом 95% доверительный интервал оценки варьируется от 1.3x до 3x ускорения.
Ключевые метрики и данные
Anthropic предоставила беспрецедентный доступ к метрикам предобучения, reinforcement learning (RL), вычислительным ресурсам и внутренним бенчмаркам. Основной индекс оценки способностей — AECI (Anthropic Epoch Capabilities Index) — показал стабильный рост.
| Показатель | Значение / Наблюдение | Примечание |
|---|---|---|
| Скорость прогресса (после окт. 2025) | 1.9x (от 1.5x до 2.8x) | По сравнению с периодом до октября 2025 |
| Основной драйвер ускорения | Использование ИИ в R&D | Не увеличение вычислительных мощностей (compute) |
| Характер помощи ИИ | Ассистирование (Human-in-the-loop) | Полностью автономные вклады пока редки, но растут |
| Выявленные узкие места | Отсутствуют | Нет признаков исчерпания алгоритмического или вычислительного потенциала |
Почему это важно для индустрии
- Отсутствие «стены»: В отчете прямо указано на отсутствие наблюдаемых узких мест (bottlenecks), которые могли бы замедлить прогресс из-за ограничений в алгоритмах, данных или вычислительной мощности. Это создает риск внезапного появления экстремальных и опасных способностей у моделей.
- Сдвиг парадигмы: Ускорение не связано с масштабированием тренировочных вычислений (scaling of training compute). Это означает, что эффективность самих методов обучения и интеграции ИИ-агентов в исследовательский цикл выросла критически.
- Автономность: Хотя сейчас ИИ в основном помогает исследователям, есть признаки того, что полностью автономные вклады ИИ в R&D скоро станут значимыми, что может еще больше ускорить цикл разработки.
Ограничения и неопределенности
Авторы отчета METR подчеркивают высокую степень неопределенности. Часть ключевых выводов, влияющих на оценку рисков, была засекречена самой Anthropic. Также отмечается, что METR может недооценивать ускорение, если не учитывает недавнее ускорение темпов роста или реальное влияние на задачи, не входящие в бенчмарки. И наоборот, оценка может быть завышена из-за фокуса AECI только на верифицируемых задачах и влияния не-ИИ факторов в ранний период развития Anthropic (2023–2025).
Источник: LessWrong ↗