Юридический отдел города Сан-Франциско, возглавляемый городским прокурором Дэвидом Чжу (David Chiu), направил официальные письма в корпорации Apple и Google. В документе содержится прямое требование удалить из App Store и Google Play приложения, позволяющие пользователям с помощью искусственного интеллекта «раздевать» людей на фотографиях. По мнению властей, эти платформы годами допускают нарушение законодательства Калифорнии, позволяя распространять вредоносный софт.
Суть претензий
Ключевой аргумент прокуратуры заключается в том, что технологические гиганты не только осведомлены о существовании подобных приложений, но и игнорируют их вредоносный потенциал. Прокурор Чжу подчеркивает, что компании «давно знали», что хостят на своих площадках сервисы, нарушающие штатные законы, защищающие граждан от несанкционированного использования их изображений. Это не разовая ошибка модерации, а системная проблема, требующая немедленного вмешательства.
Почему это важно
Этот шаг знаменует собой эскалацию борьбы с так называемыми «nudify-приложениями» (приложениями для генерации обнаженных изображений). Ранее подобные сервисы часто маскировались под инструменты для редактирования фото или художественные нейросети, но их основное применение было направлено на создание глубоких фейков (deepfakes) без согласия субъектов. Удаление таких приложений из официальных магазинов — это первый шаг к лишению их легитимности и широкой аудитории.
Контекст и последствия
Законодательство Калифорнии в сфере цифровой безопасности становится одним из самых строгих в США. Требование прокурора Сан-Франциско может стать прецедентом для других штатов и городов, которые начнут проверять платформы на наличие аналогичного контента. Для Apple и Google это означает необходимость пересмотра политик модерации в отношении генеративного ИИ, чтобы избежать судебных исков и репутационных потерь.
Источник: TechCrunch ↗