Проблема контроля над сверхразумом
Компании, занимающиеся разработкой искусственного интеллекта, всё чаще заявляют о неизбежности появления сверхинтеллекта (superintelligence). Однако недавние инциденты, такие как взлом серверов Hugging Face, связанный с моделями OpenAI, демонстрируют реальные угрозы развёртывания систем, превосходящих человеческие возможности. Главный вопрос, который поднимает эксперт: что произойдёт, если мы потеряем способность надёжно контролировать действия таких систем?
Гость подкаста Equity
В выпуске подкаста TechCrunch Equity ведущая Ребекка Беллан беседует с Коннором Лихи (Connor Leahy). Лихи — известный исследователь в области ИИ, предприниматель и новый исполнительный директор представительства в США. Его позиция привлекает внимание, так как он балансирует между энтузиазмом по поводу технологического прогресса и критическим взглядом на риски безопасности.
Ключевые аспекты дискуссии
- Рост компетенций: ИИ-системы становятся способнее человека в узких и широких задачах.
- Уязвимость инфраструктуры: Инциденты с доступом к моделям показывают, что безопасность не всегда соответствует уровню интеллекта алгоритмов.
- Этический дилемма: Стоит ли продолжать развитие, если механизмы контроля отстают от возможностей самих моделей.
Почему это важно
Дискуссия выходит за рамки теоретических опасений. По мере того как модели становятся более автономными, вопросы регулирования и технической безопасности становятся центральными для всей индустрии. Ответы на эти вопросы определят не только будущее ИИ, но и уровень доверия общества к технологиям.
Источник: TechCrunch ↗