Ключевой тезис: Китай не впереди
Несмотря на активное развитие, Китай не способен задавать темп в гонке искусственного интеллекта. Статья SemiAnalysis систематизирует текущее состояние китайского подхода к безопасности и развитию ИИ, показывая, что технологическое лидерство остается за другими игроками рынка.
Роль Zhipu и санкции США
Особое внимание уделяется компании Zhipu. Это единственная стартап-компания из рассматриваемых, которая находится в полном списке черных списков США. Несмотря на это, Zhipu демонстрирует впечатляющие результаты в области киберзащиты перед публичным релизом модели GLM-5.3 и занимает более «безопасную» позицию по сравнению с другими китайскими ИИ-компаниями.
Критика от Anthropic
Anthropic не обошла стороной действия Zhipu, выразив критику, которая имеет под собой основания. Это вызывает серьезные дискуссии о рисках, связанных с открытыми весами моделей (open-weight AIs), и их влиянии на экзистенциальные риски в целом.
Призыв к действию для специалистов
Авторы статьи рекомендуют специалистам из Китая, работающим в сфере ИИ, активно участвовать в развитии безопасных технологий. Это включает вступление в организации, такие как Concordia AI, публикацию исследований, получение грантов и нетворкинг с исследователями, обеспокоенными экзистенциальными рисками.
Дополнительные ресурсы
Для более глубокого понимания темы рекомендуется ознакомиться с материалом "AI Safety in China: A Primer" от Jasminexli, который дает дополнительную информацию о текущем состоянии безопасности ИИ в Китае.
Источник: LessWrong ↗