Разрыв между внутренними и публичными моделями
Ситуация на рынке AI-технологий характеризуется тем, что самые мощные модели часто остаются внутренними (internal models) и не предназначены для публичного выпуска. Этот разрыв во возможностях (capability gap) между внутренним фронтиром и публичными релизами может составлять от трех до шести месяцев. Если лаборатории близки к автоматизации узких мест в разработке AI, такой разрыв создает серьезные риски для регуляторов и общества, искажая восприятие реальных угроз и возможностей.
Три «Holy Shit» графика, меняющие картину
Автор статьи выделяет три конкретных метрики, которые демонстрируют пугающую скорость развития индустрии. Эти данные, собранные из отчетов Epoch AI, Exponential View и Anthropic, показывают нелинейный рост, который трудно объяснить текущими экономическими моделями.
| Метрика | Источник данных | Ключевые цифры и тренды |
|---|---|---|
| Внутренние расходы исследователей OpenAI | Epoch AI (октябрь 2026) | Расходы на токены удваиваются примерно каждый месяц. Прогноз: годовой бюджет может достичь $185 млн (медиана) и $2.3 млрд (90-й перцентиль) на исследователя. |
| Доходы компаний фронтир-уровня | Exponential View (июнь 2026) | Рост выручки отрасли в 3-4 раза в год. При сохранении тренда экономика AI превысит ВВП всего мира к 2031-2033 гг. |
| Автоматизация AI R&D (уровень AL5) | Anthropic (август-сентябрь 2026) | Категория AL5 достигает 99% насыщения через ~8 месяцев. Ко-основатель Jack Clark оценивал вероятность автономного создания преемников AI к концу 2028 года в 60%. |
Почему это важно для регуляторов
Ключевая проблема заключается в отсутствии прозрачности. Графики, демонстрирующие такие темпы, часто вызывают скепсис даже у поисковых систем из-за своей «невероятности». Однако, если экстраполировать текущие тренды, мы приходим к сценарию, где AI-системы способны автономно разрабатывать собственные преемники (AL5) в ближайшие пару лет. Это создает риск потери контроля, который авторы называют «пожаром четвертого-пятого класса».
Предложения по повышению прозрачности
Для mitigations этих рисков предлагается внедрить обязательную отчетность по следующим метрикам:
- Метрики обучения: Регулярное обновление данных о количестве активных тренировочных запусков выше определенного порога FLOP, а также счетчики FLOP крупнейших запусков.
- Метрики развертывания: Время с момента окончания обучения и детализация выручки по каждой модели.
- Метрики агентов: Количество активных агентов, длина сессий (99.9-й перцентиль) и количество посещенных веб-сайтов.
Авторы подчеркивают, что такие данные должны быть верифицируемы независимыми аудиторами, чтобы избежать манипуляций и обеспечить реальное понимание скорости диффузии технологий и их влияния на рынок труда.
Источник: LessWrong ↗