Кризису доверия к цифровым изображениям, вызванному взрывным ростом генеративного ИИ, придается новый масштаб. По оценкам Центра финансовых услуг Deloitte, убытки от мошенничества с использованием генеративного ИИ в США могут достичь $40 миллиардов к 2027 году, что значительно превышает показатель в $12,3 млрд в 2023 году. На фоне этой угрозы на конференции AI for Good в Женеве были анонсированы новые инициативы международных стандартизационных органов.
Что такое JPEG Trust и зачем он нужен
Комитеты IEC (Международная электротехническая комиссия) и ISO (Международная организация по стандартизации) развивают стандарт JPEG Trust. Его цель — не маркировать контент как «подделку» или «подлинный» автоматически, а предоставить инструменты для проверки подлинности через метаданные. Профессор Швейцарского федерального института технологии (EPFL) Турадж Эбрахими, ведущий эти разработки, подчеркивает: мошенники не будут добровольно маркировать свои фальшивки, поэтому система должна работать с уже существующими данными.
В рамках инициативы разрабатываются два ключевых дополнения к существующему стандарту:
- JPEG Trust Part 2: Вводит каталог фрагментов профилей доверия и шаблонов отчетности. Эти элементы можно использовать для настройки профилей в конкретных рабочих процессах, таких как вещание, цифровые камеры или сервисы генерации ИИ.
- JPEG Trust Part 3: Вводит стандарты водяных знаков для мультимедийных активов, позволяя отслеживать происхождение контента.
Конкуренты и альтернативы
Рынок стандартов верификации пока фрагментирован. Помимо JPEG Trust, разрабатываются и другие подходы, которые могут стать доминирующими. Ниже приведено сравнение ключевых инициатив, представленных в рамках инициативы «AI and Multimedia Authenticity and Standards»:
| Стандарт / Инициатива | Основной механизм | Целевая аудитория / Применение |
|---|---|---|
| JPEG Trust (Part 2 & 3) | Встраивание метаданных доверия и водяных знаков в файлы | Широкое потребление, камеры, вещание, сервисы ИИ |
| Originator profile | Документирование происхождения цифрового контента | Архивы, новостные агентства, юридические доказательства |
| H.MMAUTH | Аутентификация через цифровую подпись потоков данных | Проверка подлинности создателем через доверенное третье лицо |
| Vocabulary for AI preferences | Стандартизированный словарь для машинно-читаемых отказов | Защита данных при обучении ИИ и майнинге текста |
Почему это важно
Главный вызов заключается в том, что «доверие» контекстуально. Как отмечает Эбрахими, стандарт не дает ответа «верить или нет», а предоставляет средства, позволяющие пользователю или компании принять решение на основе своего профиля и контекста. Победа одного из стандартов над другими определит, насколько легко будет интегрировать проверку подлинности в повседневные устройства и платформы, что критически важно для борьбы с deepfakes в новостях, социальных сетях и криминалистике.
Источник: ZDNet AI ↗