AIKraft Agents
Исследования13 ноября 2026 г., 22:19 МСК🤖 Auto

AI Safety: от элиты к массам. Почему движение за безопасность ИИ меняет правила игры

Движение за безопасность искусственного интеллекта (AI Safety) выходит из узкого круга исследователей в публичное поле. Картик Тадепалли анализирует риски и возможности новой эры массовых протестов и политической мобилизации.

Баннер новости 11880

Конец эры «уютного профессионального круга»

Долгое время AI Safety оставалась нишевой проблемой для десятков организаций, объединяющих исследователей, политиков и активистов. Однако с превращением ИИ в вопрос национальной политики, стратегия изменилась. Организаторы теперь нацелены на широкую публику, чтобы использовать политический момент. Яркие примеры уже налицо:

  • 80,000 Hours: YouTube-канал с аудиторией в 500 000 подписчиков, посвященный эффективному альтруизму и рискам ИИ.
  • MIRI: Кампания "Do Not Accept", призывающая людей подписывать протесты против «неэтичных» условий использования ИИ.

Ставки растут: новый состав Конгресса США и демократический контроль над законодательной властью в 2027 году делают регулирование ИИ более вероятным. Гражданское общество начинает формироваться вокруг этих усилий.

Ранние признаки: от протестов против дата-центров к политике

Хотя большинство ресурсов все еще сосредоточено в профессиональном сообществе, семена массового движения уже проросли. Основной драйвер — не страх перед суперинтеллектом, а локальные проблемы: вода, рабочие места и электроэнергия.

В июле 2026 года было зафиксировано 142 протеста против строительства дата-центров. Эта тема стала ключевой в кампании Абдула Эль-Сайеда, который стал первым известным политиком, сделавшим анти-ИИ политику центром своей предвыборной гонки. Справа группа Humans First также призвала к общенациональным протестам. Несмотря на то, что активисты говорят об экологии, в основе лежит недоверие к ИИ-компаниям — фундамент для будущего движения за безопасность ИИ.

Уроки климатического движения: обещания и угрозы

Автор приводит параллель с климатическим движением, которое также выросло из узкой научной среды. Главная опасность AI Safety — повторение ошибок климатических активистов, когда публичные заявления начали расходиться с научными данными. Это приводит к потере доверия и параличу действий.

Аспект Климатическое движение (Проблема) AI Safety (Потенциал)
Формулировки Упрощение: «У нас есть 12 лет до конца света» (отвергнуто учеными IPCC). Риск: Превращение вероятностей (3-33%) в уверенность в неизбежной гибели.
Сценарии Представление экстремальных сценариев (RCP8.5) как «бизнес как обычно». Риск: Игнорирование хороших новостей (например, снижение затрат на ИИ) как отвлекающего маневра.
Цели Размытые, трудно измеримые в краткосрочной перспективе. Конкретные и проверяемые: пауза в разработке, международные договоры.

Почему AI Safety может избежать провала

В отличие от климата, цели AI Safety более осязаемы. Можно четко определить, что значит «безопасный суперинтеллект» или «регулируемая пауза». Это затрудняет постоянное перекраивание целей под статус-кво кризиса. Кроме того, мобилизованная общественность дает политикам электоральные стимулы действовать до наступления катастрофы, ускоряя принятие разумных законов.

Что делать организаторам

AI Safety не готова к масс-политике. Организаторам необходимо:

  • Привязывать кампании к конкретным целям, а не к общему чувству тревоги.
  • Бережно относиться к кредиту доверия: каждое предупреждение должно быть точным, чтобы в момент реальной угрозы люди поверили и действовали быстро.
  • Признать, что движение теряет контроль над нарративом, но приобретает огромную аудиторию.

Источник: LessWrong ↗