В статье, опубликованной на LessWrong, исследователь Николо Юркович (Nikola Jurkovic) аргументирует, что временные рамки достижения искусственного общего интеллекта (AGI) и суперинтеллекта (ASI) сжались до критических значений. Без вмешательства, замедляющего развитие, медианная дата наступления суперинтеллекта оценивается в март 2028 года. Это означает, что у нас есть менее полутора лет до потенциального технологического перелома.
Ключевые данные и прогнозы
Основой для столь пессимистичного сценария служит отчет METR об автоматизации исследований ИИ в Anthropic. Анализ показывает, что скорость прогресса в области ИИ может удваиваться за счет автоматизации R&D. Если экстраполировать эти данные, то в сценарии «AI 2027» суперинтеллект достигался бы в декабре 2027 года, что при текущих темпах сдвигает дату на июль 2027 года без учета ускорения.
Реакция ведущих экспертов и прогностических групп подтверждает тревогу:
| Источник / Эксперт | Прогноз / Оценка | Комментарий |
|---|---|---|
| AI Futures Project (Q3.5 update) | Менее 1 года до TED-AI | Сверхбыстрое развитие, если не будет замедления |
| Sentinel (Samotsvety) | Февраль 2028 | Медианная дата появления суперинтеллекта |
| Anthropic (S-1 filing) | Порог RSP пройден | Наблюдается или ожидается удвоение скорости прогресса ИИ |
| Jake Mendel | >50% вероятность | Полноценный суперинтеллект в течение 18 месяцев |
| Ajeya Cotra | ~1 год | При условии плавного ускорения от ИИ |
Риск и цена бездействия
Юркович оценивает вероятность «захвата власти» ИИ (AI takeover) в случае достижения суперинтеллекта в течение 6–12 месяцев примерно в 75%. В сочетании с вероятностью наступления ASI в этот период, совокупный риск катастрофы составляет от 25% до 33%. Это неприемлемо высокий уровень риска для глобальной безопасности.
Три пути к паузе
Автор выделяет три стратегии для достижения «агрессивного замедления» или паузы в разработке ИИ в ближайшие 6–12 месяцев:
- Лоббирование в лабораториях (Lab Advocacy): Убеждение Anthropic, OpenAI и Meta внедрить паузу без участия государства. На это направление в сообществе безопасности ИИ выделено всего ~20 FTE (полных ставок).
- Действия на уровне штата Калифорния: Принятие закона или исполнительного указа губернатора, обязывающего разработчиков замедлить темпы. На это направлено ~15 FTE.
- Федеральное лоббирование: Вмешательство Конгресса или администрации Трампа. Этот путь считается маловероятным без крупного инцидента, сопоставимого с «Акт Бога» (значительно серьезнее инцидента с Hugging Face).
Для технических специалистов приоритетом становится создание инфраструктуры для паузы: оценка прогресса ИИ, автоматизации R&D и распределения вычислительных мощностей, а также расследование инцидентов потери контроля. Автор призывает перераспределить ресурсы сообщества безопасности ИИ на эти задачи, так как текущие теории изменений не успевают реализовать свои результаты в критическом окне времени.
Источник: LessWrong ↗
