Сигнал тревоги: 2x Uplift и конец игры?
Недавние данные от Anthropic, показавшие двукратное увеличение производительности (uplift) сотрудников при использовании ИИ, вызвали бурную реакцию в сообществе AI Safety. Для сторонников «длинных временных горизонтов» это стало подтверждением того, что рекурсивное самосовершенствование (recursive self-improvement) неизбежно приближается. Чувство безысходности («the board is set») сменилось осознанием: у нас мало времени, чтобы остановить полную передачу контроля ИИ.
Что значит «Actually Trying»?
Автор, Михаэль Траззи, предлагает эвристику для оценки серьезности намерений: представьте, что вы уже погибли в мире, где ИИ уничтожил человечество, и вам дали шанс вернуться. Что бы вы изменили? Ответ — действовать агрессивно и с высокой вариативностью, как Ли Седоль в знаменитом 78-м ходе против AlphaGo, который ИИ оценил как вероятность 1 к 10 000. Безопасные ходы больше не работают; нужна стратегия, ломающая вычислительные модели оппонента.
Хронология движения Stop The AI Race
Движение за остановку гонки вооружений в ИИ эволюционировало от одиночных пикетов к международным маршам. Ниже приведена ключевая динамика событий с сентября 2025 года:
| Дата | Событие | Ключевые фигуры / Организации |
|---|---|---|
| Сен 2025 | Начало движения: голодовка у Anthropic | Guido Reichstadter (3 дня) |
| Сен 2025 | Голодовка у Google DeepMind | Denys Sheremet, Michaël Trazzi (18 дней) |
| Янв 2026 | Демис Хассабс заявляет о готовности к паузе | Google DeepMind, Davos |
| Июн 2026 | OpenAI и Anthropic выражают ожидание соблюдения международных норм | OpenAI, Anthropic |
| Июл 2026 | Крупнейший протест в США, оккупация офисов | 13 групп, Sam Altman, Dario Amodei, Sundar Pichai |
| Ноя 2026 | Планируемый международный марш за AI Treaty | Трамп, Си Цзиньпин (встреча 18 ноя) |
Стратегия давления: от пикетов к оккупациям
Тактика движения сместилась от просьб к прямому давлению. После того как правительство США отказалось объявлять чрезвычайную ситуацию, активисты перешли к ежедневным оккупациям входов в офисы Anthropic (500 Howard St, SF) и OpenAI. Цель — заставить лидеров компаний публично обязаться приостановить разработку фронтирных моделей, если это сделают их конкуренты, под эгидой международного договора.
Почему это важно для каждого
Ситуация требует от каждого осведомленного человека не просто «участвовать», а брать на себя личные риски. Автор призывает к действиям, которые выглядят безумными для обычного человека, но являются единственно возможными в условиях экзистенциальной угрозы: голодовки, ежедневные пикеты, публичные заявления. Если мы не соберемся прямо сейчас, шанс на выживание будет упущен навсегда.
Источник: LessWrong ↗