ИИ как угроза глобальной безопасности
На заседании Совета Безопасности ООН Сэм Альтман подчеркнул, что развитие искусственного интеллекта выходит за рамки технологических инноваций и становится вопросом международной безопасности. По его словам, передовые модели ИИ могут быть использованы для создания биологического оружия, кибератак и дезинформации, что требует немедленных действий со стороны мирового сообщества.
Альтман отметил, что текущий уровень регулирования не успевает за скоростью развития технологий. Он призвал страны объединить усилия для создания единых стандартов безопасности, чтобы предотвратить использование ИИ в военных целях или для дестабилизации демократических институтов.
Предложение по созданию международного агентства
CEO OpenAI предложил создать международную организацию, аналогичную МАГАТЭ, но для контроля за развитием ИИ. Эта структура должна заниматься:
- Проверкой и сертификацией передовых моделей ИИ
- Мониторингом использования ИИ в военных целях
- Разработкой глобальных стандартов безопасности
«Мы не можем позволить себе ждать, пока произойдет катастрофа, прежде чем действовать», — заявил Альтман, подчеркивая необходимость превентивных мер.
Роль США и OpenAI в регулировании
Альтман отметил, что США уже начали работу над созданием регуляторной базы для ИИ, но подчеркнул, что одних усилий одной страны недостаточно. Он призвал другие страны, особенно Китай и Россию, присоединиться к инициативе по созданию глобального агентства по контролю за ИИ.
OpenAI, по словам Альтмана, готова сотрудничать с правительствами и другими компаниями для обеспечения безопасности разработок. Компания уже внедрила внутренние механизмы проверки моделей ИИ на предмет потенциальных рисков.
Этические аспекты и будущее ИИ
В своем выступлении Альтман затронул этические вопросы, связанные с развитием ИИ. Он подчеркнул, что технологии должны служить человечеству, а не угрожать ему. По его мнению, ключевым фактором успеха станет сотрудничество между государством, бизнесом и научным сообществом.
«Мы должны убедиться, что ИИ будет развиваться в интересах всего человечества, а не только нескольких корпораций или государств», — заключил CEO OpenAI.
Источник: OpenAI ↗