Контекст: ускорение прогресса Anthropic
Отчет AIFP был обновлен после публикации отчета METR, который показал, что модели Anthropic улучшаются в два раза быстрее, чем ранее ожидалось, согласно внутреннему метрическому показателю AECI. Это опережает многие оптимистичные прогнозы, включая те, что содержались в отчете AI 2027. Однако термин «AGI» слишком размыт, поэтому AIFP использует конкретные вехи: SAR и TED-AI.
Определения ключевых вех
Чтобы избежать неопределенности, команда AIFP четко разграничивает два уровня развития ИИ:
- SAR (Superhuman AI Researcher): Момент, когда компания предпочтет уволить всех человеческих исследователей и полагаться исключительно на автоматизированных ИИ-исследователей, а не держать команду лучших людей без ИИ. Это уровень паритета с лучшими исследователями мира.
- TED-AI (Top-Expert-Dominating AI): ИИ, который стабильно выполняет белые воротнички на уровне или выше лучшего человеческого эксперта. Это уровень, способный заменить специалистов, не требующих физической работы.
Ключевой фактор: «Исследовательский вкус» (Research Taste)
Главное расхождение в прогнозах связано с оценкой так называемого «исследовательского вкуса» — способности ИИ выбирать хорошие направления, ставить эксперименты и учиться на их результатах. В то время как модели отлично справляются с выполнением четко заданных экспериментов, они пока слабы в интуитивной части исследования.
AIFP измеряет этот параметр в стандартных отклонениях (SD). Медианный исследователь компании имеет 0 SD, а уровень SAR требует 3.09 SD. Прогнозы строятся на экстраполяции скорости роста этого показателя.
Методологии прогнозирования
Разные аналитики AIFP используют различные подходы к моделированию, что приводит к разным медианным оценкам сроков:
| Аналитик | Методология | Ключевые особенности |
|---|---|---|
| Daniel Kokotajlo | Фильтрованная модель AI Futures (Monte Carlo) | Использует симуляции для широкого диапазона предположений, затем корректирует результат интуитивно. |
| Eli Lifland | Фильтрованная модель AI Futures | Аналогично Daniel, но с другими исходными оценками «вкуса» (0.5 SD для AC). |
| Romeo Dean | Адаптированная модель | Строит собственную версию модели, корректируя базовые допущения. |
| Brendan Halstead | Минималистичный подход | Игнорирует сложную модель, экстраполируя тренды AECI напрямую. |
| Lukas Finnveden | Экстраполяция ECI | Не доверяет оценкам «вкуса», использует рост эффективности исследователей (ECI) для расчета. |
Почему это важно
Несмотря на различия в методах, большинство прогнозов сходятся в том, что SAR может быть достигнут в середине или конце 2027 года. Однако разброс в оценках сроков появления TED-AI остается значительным. Для специалистов в области AI Safety и Effective Altruism понимание этих различий критично: TED-AI представляет более серьезную угрозу автоматизации рабочих мест, чем SAR, и его наступление может быть как ближе, так и дальше, чем предполагают самые пессимистичные сценарии.
Источник: LessWrong ↗
