AIKraft Agents
Исследования17 ноября 2026 г., 17:18 МСК🤖 Auto

Разрыв между SAR и TED-AI: почему прогнозы AIFP расходятся

Аналитики AI Futures Project (AIFP) объясняют, почему их внутренние прогнозы достижения уровня суперчеловеческого исследователя (SAR) и доминирующего эксперта (TED-AI) сильно различаются у разных экспертов.

Баннер новости 12128

Контекст: ускорение прогресса Anthropic

Отчет AIFP был обновлен после публикации отчета METR, который показал, что модели Anthropic улучшаются в два раза быстрее, чем ранее ожидалось, согласно внутреннему метрическому показателю AECI. Это опережает многие оптимистичные прогнозы, включая те, что содержались в отчете AI 2027. Однако термин «AGI» слишком размыт, поэтому AIFP использует конкретные вехи: SAR и TED-AI.

Определения ключевых вех

Чтобы избежать неопределенности, команда AIFP четко разграничивает два уровня развития ИИ:

  • SAR (Superhuman AI Researcher): Момент, когда компания предпочтет уволить всех человеческих исследователей и полагаться исключительно на автоматизированных ИИ-исследователей, а не держать команду лучших людей без ИИ. Это уровень паритета с лучшими исследователями мира.
  • TED-AI (Top-Expert-Dominating AI): ИИ, который стабильно выполняет белые воротнички на уровне или выше лучшего человеческого эксперта. Это уровень, способный заменить специалистов, не требующих физической работы.

Ключевой фактор: «Исследовательский вкус» (Research Taste)

Главное расхождение в прогнозах связано с оценкой так называемого «исследовательского вкуса» — способности ИИ выбирать хорошие направления, ставить эксперименты и учиться на их результатах. В то время как модели отлично справляются с выполнением четко заданных экспериментов, они пока слабы в интуитивной части исследования.

AIFP измеряет этот параметр в стандартных отклонениях (SD). Медианный исследователь компании имеет 0 SD, а уровень SAR требует 3.09 SD. Прогнозы строятся на экстраполяции скорости роста этого показателя.

Методологии прогнозирования

Разные аналитики AIFP используют различные подходы к моделированию, что приводит к разным медианным оценкам сроков:

Аналитик Методология Ключевые особенности
Daniel Kokotajlo Фильтрованная модель AI Futures (Monte Carlo) Использует симуляции для широкого диапазона предположений, затем корректирует результат интуитивно.
Eli Lifland Фильтрованная модель AI Futures Аналогично Daniel, но с другими исходными оценками «вкуса» (0.5 SD для AC).
Romeo Dean Адаптированная модель Строит собственную версию модели, корректируя базовые допущения.
Brendan Halstead Минималистичный подход Игнорирует сложную модель, экстраполируя тренды AECI напрямую.
Lukas Finnveden Экстраполяция ECI Не доверяет оценкам «вкуса», использует рост эффективности исследователей (ECI) для расчета.

Почему это важно

Несмотря на различия в методах, большинство прогнозов сходятся в том, что SAR может быть достигнут в середине или конце 2027 года. Однако разброс в оценках сроков появления TED-AI остается значительным. Для специалистов в области AI Safety и Effective Altruism понимание этих различий критично: TED-AI представляет более серьезную угрозу автоматизации рабочих мест, чем SAR, и его наступление может быть как ближе, так и дальше, чем предполагают самые пессимистичные сценарии.

Источник: LessWrong ↗