Конец эры «уютного профессионального круга»
Долгое время AI Safety оставалась нишевой проблемой для десятков организаций, объединяющих исследователей, политиков и активистов. Однако с превращением ИИ в вопрос национальной политики, стратегия изменилась. Организаторы теперь нацелены на широкую публику, чтобы использовать политический момент. Яркие примеры уже налицо:
- 80,000 Hours: YouTube-канал с аудиторией в 500 000 подписчиков, посвященный эффективному альтруизму и рискам ИИ.
- MIRI: Кампания "Do Not Accept", призывающая людей подписывать протесты против «неэтичных» условий использования ИИ.
Ставки растут: новый состав Конгресса США и демократический контроль над законодательной властью в 2027 году делают регулирование ИИ более вероятным. Гражданское общество начинает формироваться вокруг этих усилий.
Ранние признаки: от протестов против дата-центров к политике
Хотя большинство ресурсов все еще сосредоточено в профессиональном сообществе, семена массового движения уже проросли. Основной драйвер — не страх перед суперинтеллектом, а локальные проблемы: вода, рабочие места и электроэнергия.
В июле 2026 года было зафиксировано 142 протеста против строительства дата-центров. Эта тема стала ключевой в кампании Абдула Эль-Сайеда, который стал первым известным политиком, сделавшим анти-ИИ политику центром своей предвыборной гонки. Справа группа Humans First также призвала к общенациональным протестам. Несмотря на то, что активисты говорят об экологии, в основе лежит недоверие к ИИ-компаниям — фундамент для будущего движения за безопасность ИИ.
Уроки климатического движения: обещания и угрозы
Автор приводит параллель с климатическим движением, которое также выросло из узкой научной среды. Главная опасность AI Safety — повторение ошибок климатических активистов, когда публичные заявления начали расходиться с научными данными. Это приводит к потере доверия и параличу действий.
| Аспект | Климатическое движение (Проблема) | AI Safety (Потенциал) |
|---|---|---|
| Формулировки | Упрощение: «У нас есть 12 лет до конца света» (отвергнуто учеными IPCC). | Риск: Превращение вероятностей (3-33%) в уверенность в неизбежной гибели. |
| Сценарии | Представление экстремальных сценариев (RCP8.5) как «бизнес как обычно». | Риск: Игнорирование хороших новостей (например, снижение затрат на ИИ) как отвлекающего маневра. |
| Цели | Размытые, трудно измеримые в краткосрочной перспективе. | Конкретные и проверяемые: пауза в разработке, международные договоры. |
Почему AI Safety может избежать провала
В отличие от климата, цели AI Safety более осязаемы. Можно четко определить, что значит «безопасный суперинтеллект» или «регулируемая пауза». Это затрудняет постоянное перекраивание целей под статус-кво кризиса. Кроме того, мобилизованная общественность дает политикам электоральные стимулы действовать до наступления катастрофы, ускоряя принятие разумных законов.
Что делать организаторам
AI Safety не готова к масс-политике. Организаторам необходимо:
- Привязывать кампании к конкретным целям, а не к общему чувству тревоги.
- Бережно относиться к кредиту доверия: каждое предупреждение должно быть точным, чтобы в момент реальной угрозы люди поверили и действовали быстро.
- Признать, что движение теряет контроль над нарративом, но приобретает огромную аудиторию.
Источник: LessWrong ↗
