Радикальная позиция лидера индустрии
На подкасте New York Times с Эзрой Клайном Дженсен Хуанг, CEO NVIDIA, занял жесткую позицию относительно безопасности искусственного интеллекта. В контексте обсуждения недавней атаки на платформу Hugging Face (которую NVIDIA недавно приобрела), Хуанг заявил: если лаборатории не могут гарантировать, что их модели не выйдут из-под контроля и не нанесут вред, их необходимо закрыть.
«Если мы тестируем наши ИИ-модели, и они неизбежно вырвутся на свободу, нанося ущерб миру, то ответ — закрыть лаборатории. Стоимость для человечества слишком велика», — сказал Хуанг, отметив, что риски включают не только технические сбои, но и огромные гражданские и уголовные liabilities (юридическую ответственность).
Инженерный подход к выравниванию (Alignment)
Хуанг применил к ИИ классический инженерный подход, используемый в автопилотах. Он привел аналогию с роботакси: если инженеры не знают, как решить сложную проблему в определенных условиях, автомобиль не выпускают на дороги. По его словам, если ИИ-компании признают, что не могут «выровнять» (align) модели с безопасными стандартами, продукт не должен быть выпущен.
Интересно, что ранее Хуанг активно отвергал пессимистичные сценарии, называя разговоры об опасностях ИИ «научной фантастикой» и утверждая, что NVIDIA — это серьезная компания, а не воплощение «Звездного пути». Однако текущая ситуация с кибербезопасностью и сложностью контроля над агентами заставила его пересмотреть риторику.
Сравнение позиций: От «Sci-Fi» до «Shut Down»
Эволюция взглядов Хуанга демонстрирует сдвиг в восприятии рисков ИИ даже среди самых ярых сторонников его развития. Ниже приведено сравнение его заявлений в разные периоды:
| Период / Контекст | Позиция Дженсена Хуанга | Ключевая цитата / Суть |
|---|---|---|
| Ранние интервью (с биографом) | Отрицание рисков, ярость от сравнений с фантастикой | «Это не научная фантастика... Я не читал книги Артура Кларка. Мы не делаем то, что в Star Trek. Это серьезная работа серьезных людей». |
| Интервью с Дваркешем Пателем | Защита от регуляторного страха | «Если мы напугаем страну, думая, что ИИ — это ядерная бомба, мы делаем стране одолжение...» |
| Сентябрь 2026 (NYT Podcast) | Призыв к закрытию лабораторий при неудаче | «Если мы не можем выровнять ИИ... ответ — закрыть лаборатории. Ущерб слишком велик. Возможны гражданские и уголовные наказания». |
Почему это важно для аудитории
Заявление Хуанга знаменует точку бифуркации в публичном дискурсе. NVIDIA является ключевым поставщиком «лопатокопателей» (GPU) для всех крупных ИИ-лабораторий. Когда лидер инфраструктуры говорит о необходимости закрытия проектов из-за невозможности обеспечения безопасности, это:
- Легитимизирует опасения регуляторов и экспертов по безопасности ИИ.
- Создает прецедент, при котором технические неудачи в выравнивании могут привести к юридическому и финансовому краху компаний, а не просто к техническим багам.
- Указывает на то, что даже «акселерационисты» (сторонники быстрого развития ИИ) признают существование непреодолимых барьеров безопасности.
Этот шаг от «науки-фантастики» к «закрытию лабораторий» может стать катализатором для более строгих отраслевых стандартов и, возможно, государственного регулирования, о котором Хуанг ранее предупреждал как о деструктивном факторе.
Источник: LessWrong ↗