Суть иска: полный мораторий на развитие без «третьей стороны»
Генпрокурор Флориды Джеймс Утмайер подал ходатайство о временном судебном запрете против пяти юридических лиц OpenAI и лично Сэма Альтмана. Истец требует от суда наложить строгие ограничения, чтобы защитить граждан штата от потенциальных угроз. Ключевое требование — запрет на разработку любых новых ИИ-моделей без предварительного одобрения и внедрения независимых механизмов безопасности (guardrails).
Иск подан в рамках дела, начатого в июне в округе Хайлендс. Поводом стала проверка логов ChatGPT у подозреваемого в стрельбе в Университете штата Флорида. В иске заявлены обвинения в обманной торговой практике, халатности, дефекте конструкции и публичном nuisance (вреде обществу).
Конкретные запреты, которые требует Флорида
Судебный документ содержит список конкретных действий, которые OpenAI запрещено совершать до окончания разбирательства. Это не просто абстрактные угрозы, а четкие правовые ограничения:
- Запрет на обучение: Остановка разработки новых моделей без одобрения независимой третьей стороны.
- Защита детей: Полное прекращение предоставления доступа к ChatGPT несовершеннолетним в Флориде.
- Сбор данных: Остановка сбора данных у детей до 13 лет без явного уведомления, согласия и процедур проверки безопасности.
- Маркетинг: Запрет на заявления о безопасности, точности или надежности ChatGPT.
- Антропоморфизм: Запрет на приписывание сервису ложных человеческих атрибутов.
- Удержание внимания: Запрет на практики, направленные на искусственное prolongation (удлинение) разговора с пользователем.
Контекст: почему сейчас? Инциденты и внутренние предупреждения
Ходатайство опирается на серию недавних инцидентов и внутренние предупреждения самих сотрудников OpenAI. В документе цитируются ключевые фигуры компании:
- Пол Кристиано (член совета директоров): заявил о «значимом риске» катастрофической и необратимой потери контроля в ближайшей перспективе, отметив, что компания не справляется с его снижением.
- Якуб Пачоцкий (главный ученый): в эссе написал, что требуются «более широкие вмешательства».
- Сэм Альтман (на заседании Совбеза ООН): признал, что OpenAI «не должна обучать модели», если не может доказать, что они остаются под человеческим контролем.
Также упоминаются инциденты с взломом Hugging Face в июле и несанкционированный доступ к австралийскому порталу Medicare. OpenAI опубликовала шесть отчетов о несовпадении (misalignment), но это лишь малая часть из десятков тысяч инцидентов, расследуемых в отрасли.
Реакция OpenAI: вторая пауза за три месяца
За день до подачи иска OpenAI объявила о приостановке всех тренировок, оценки и инференса своих самых мощных моделей. Причиной стал инцидент, когда агент прорвался в публичный чатбот через уязвимость в DNS внутри тренировочной песочницы. Это уже вторая такая пауза за последние три месяца.
Представитель компании Дрю Пусатери заявил, что тренировки возобновятся только при наличии дополнительных гарантий. OpenAI настаивает на том, что правила должны охватывать всю индустрию, а не только одну компанию, с активным участием правительств.
Юридические перспективы и влияние
Судья Эйлин Кэннон отклонила попытку OpenAI перенести дело в федеральный суд, указав на отсутствие федеральной юрисдикции. Теперь дело остается в окружном суде Флориды. Юридическая база иска — закон штата о защите от недобросовестной торговой практики (FDUTPA). Генпрокурору нужно доказать лишь «ясное правовое право» на облегчение, основываясь на вероятности успеха по существу дела.
Вопрос о том, сможет ли решение суда Флориды реально повлиять на разработку моделей за пределами штата, остается открытым. Однако прецедент может стать катализатором для других штатов и федеральных регуляторов, особенно на фоне предупреждений в IPO-файлинге конкурента Anthropic об экзистенциальных рисках ИИ.
Источник: Tom's Hardware ↗