1. «Вакуум воображения» и отсутствие культуры рисков
В отличие от западного сообщества, где дискуссии о «FOOM» (взрывном интеллектуальном росте) велись еще с 2011 года, в Китае до 2023 года не существовало аналогичного осознания рисков в мейнстриме. Авторы отмечают, что китайские стартапы и гиперскейлеры демонстрируют крайне низкий уровень ситуационной осведомленности о рисках передовых ИИ. Это не стратегическое игнорирование, а именно «вакуум воображения» — отсутствие глубокого понимания экзистенциальных угроз.
2. Финансовая ловушка: НКО под подозрением
Получение финансирования для AI Safety в Китае критически сложно. Неприбыльные организации (non-profits) встречают сильное недоверие со стороны местных инвесторов. Получение грантов от западных EA-сообществ практически невозможно из-за строгих правил контроля за иностранным финансированием. В результате возникает парадоксальная ситуация, которую часто неправильно интерпретируют на Западе как работу на государственные цели.
3. Экологическая ниша: «Safety-pilled» предприниматели
Чтобы выжить, многие исследователи безопасности вынуждены создавать коммерческие компании. Они продают продукты для наблюдаемости ИИ или курсы по безопасности сотрудникам лабораторий, а затем реинвестируют большую часть прибыли в некоммерческие исследования безопасности. Это скрытый, но ключевой механизм поддержки поля в условиях отсутствия прямых грантов.
4. Технологическая блокада: Доступ к моделям
Китайские исследователи сталкиваются с прямыми ограничениями в доступе к лучшим языковым моделям. Западные провайдеры (включая Anthropic) регулярно блокируют аккаунты, даже если они используются для гражданской работы по безопасности, просто на основе геолокации. Это создает непропорционально высокие издержки для исследователей с ограниченным бюджетом, отсеивая таланты на раннем этапе.
5. Институциональный паралич и пути решения
Структурный риск «涉外» (взаимодействия с иностранными субъектами) заставляет организации избегать контактов с METR, Apollo или Redwood. Наиболее жизнеспособным путем авторы видят прямые контакты отдельных исследователей из США с китайскими организациями в личном качестве. Предлагается немедленная мера: предоставление подписок и вычислительных мощностей (compute) под строгим мониторингом гражданским исследователям безопасности.
| Барьер | Проявление в Китае | Западный контекст (для сравнения) |
|---|---|---|
| Культурное осознание | Отсутствие дискуссий до 2023 г. («вакуум воображения») | Дебаты о FOOM с 2011 г. |
| Финансирование | Подозрение к НКО, запрет иностранных грантов | Развитая экосистема EA-грантов |
| Доступ к инструментам | Блокировка аккаунтов по геолокации | Открытый доступ к frontier-моделям |
| Международное сотрудничество | Страх перед статусом «涉外» | Активная коллаборация между лабораториями |
Источник: LessWrong ↗