Аналогия с астероидом
Автор статьи, известный как atlasaligned, начинает с гипотетической ситуации: астроном обнаруживает астероид с 50% вероятностью удара по Земле в 2035 году. Если она будет одновременно выступать в Конгрессе по спасению планеты и твитить о реформе зонирования в Сан-Франциско, ее серьезность будет поставлена под сомнение. Астероид перестанет восприниматься как «ужасающая чрезвычайная ситуация», а станет просто еще одной политической кампанией. Для сообщества AI Safety это прямая аналогия: если вы верите, что ИИ — главный риск человечества, всё остальное должно быть подчинено этой цели.
«Несущая» и «хобби» политика
Автор проводит четкое различие между двумя типами политической активности:
- Load-bearing politics (Несущая политика): Регулирование вычислительных мощностей, экспортный контроль, международные договоры. Это то, без чего движение не может существовать.
- Hobby politics (Хобби-политика): Комментарии по вопросам жилья, геополитике на Ближнем Востоке, феминизму и культуре кампусов. Это «налог на миссию», который платится за счет репутации движения.
Урок климатического движения
Попытка сохранить универсальное позиционирование («спасем планету для детей») не спасла климатическое движение от поляризации. Причины:
- Решения (налоги на углерод, ограничения добычи) ударили по конкретным отраслям, которые потратили миллиарды на то, чтобы связать климат с левой повесткой.
- Активисты климатического движения вмешивались во все текущие споры, что подтвердило подозрения скептиков: это не про климат, а про идеологический пакет.
Вывод: двусторонняя поддержка — это нестабильное равновесие, которое враждебные акторы будут активно разрушать. Сохранение нейтральности требует дисциплины, а не просто хороших намерений.
Риски для AI Safety
Запрос на регулирование техногигантов звучит «слева», а конкуренция с Китаем — «справа». Уже сейчас движение начинает восприниматься как левое, что критично в условиях текущего политического расклада. Чтобы избежать судьбы климатического активизма, автор предлагает три правила:
| Принцип | Действие |
|---|---|
| Формальная неполитичность | Организации не должны делать политических заявлений, кроме тех, что касаются непосредственно безопасности ИИ. |
| Культурная норма | Чем публичнее роль эксперта, тем строже он должен скрывать свои личные политические предпочтения. |
| Активный поиск союзников | Необходимо целенаправленно культивировать сторонников как слева, так и справа, так как универсального фрейминга недостаточно. |
Почему это важно
Сообщество рационалистов и AI Safety отобрано по признаку любви к спорам. Умение промолчать, когда видишь «неправильное» мнение в интернете, — это редкий навык. Без дисциплины движение рискует стать маргинальным, потеряв возможность влиять на политику, которая определит будущее человечества.
Источник: LessWrong ↗