Ключевые цифры и сдвиг в прогнозах
Публикация отчета METR стала катализатором пересмотра временных рамок развития искусственного интеллекта. Данные показывают, что использование ИИ для исследований ускорило прогресс Anthropic почти в два раза. Это привело к радикальному сокращению прогнозов ведущих экспертов:
- Эли Лифланд (Eli Lifland): Медианная оценка появления Суперчеловеческого ИИ-исследователя (SAR) сдвинулась с ~2030 года на 2027 год.
- Зви (Zvi): Вероятность появления SAR к концу 2027 года оценивается как «менее 50%, но не значительно менее». Появление TED-AI (автоматизация всей белой-collar работы) также рассматривается как реалистичный сценарий к 2027 году.
- Пол Кристиано: Прогнозирует риск захвата контроля ИИ в течение 6–12 месяцев и призывает к паузе в разработке.
Что такое SAR и TED-AI?
Важно различать уровни автономности ИИ, так как от этого зависят сроки «точки невозврата»:
| Тип ИИ | Описание | Последствия |
|---|---|---|
| SAR (Superhuman AI Researcher) | ИИ, способный полностью автоматизировать исследования в области ИИ. | Запуск цикла рекурсивного самосовершенствования (RSI). Прогресс ускоряется экспоненциально. |
| TED-AI (Top-Expert-Dominating AI) | ИИ, превосходящий лучших экспертов во всех цифровых задачах. | Полная автоматизация интеллектуального труда. Экономическая и социальная трансформация. |
| RSI (Recursive Self-Improvement) | Процесс, при котором ИИ улучшает свой собственный код и архитектуру. | Непрерывное ускорение интеллекта, выходящее за рамки человеческого понимания и контроля. |
Почему 2027 год — это критическая дата?
Автор поста Зви подчеркивает, что тренды бенчмарков, которые должны были замедляться, наоборот, ускорились. События, которые ранее казались маловероятными (вероятность ~4%), теперь становятся базовым сценарием. Главная опасность заключается в том, что если человечество не предпримет действий по замедлению или паузе, мы можем потерять контроль над будущим уже в 2027 году. Текущие планы безопасности не готовы к такому сценарию.
Реакция сообщества и скептики
Несмотря на панику, существуют и скептики. Однако аргументы в пользу ускорения выглядят убедительнее: отчеты от Anthropic и OpenAI подтверждают внутреннюю скорость разработки, которую ранее игнорировали. Эксперты призывают не ждать «третьего отчета METR», а действовать сейчас, так как время на адаптацию к появлению суперинтеллекта иссякает.
Источник: LessWrong ↗
