Техническая реализация: как работает textGrain
OpenAI представила метод textGrain, разработанный совместно с исследователями из Университета Пенсильвании и Йеля. Водяной знак не является видимым символом; он создается за счет тонкой настройки выбора слов моделью. Этот паттерн встроен непосредственно в текст, что позволяет ему сохраняться при копировании и вставке. Для детекции используется секретный ключ, который позволяет системам распознавать AI-генерацию на основе статистических отклонений в предсказании следующих слов.
Эффективность и уязвимости
Несмотря на заявленную надежность, технология имеет существенные ограничения. Тесты OpenAI показали, что базовая детекция работает на уровне 92%, но этот показатель критически падает при минимальном вмешательстве человека. Замена всего 10% слов на синонимы снижает точность распознавания до 66%. Кроме того, короткие фрагменты, математические решения и переведенный текст выявляются с трудом.
| Параметр | Значение / Характеристика |
|---|---|
| Метод маркировки | textGrain (скрытый паттерн в выборе слов) |
| Базовая точность детекции | ~92% |
| Точность после замены 10% слов | ~66% |
| Сложность детекции | Короткие тексты, математика, переводы |
| Привязка к пользователю | Нет (не идентифицирует автора) |
Глобальное развертывание и API
Водяные знаки внедряются поэтапно в течение нескольких недель для пользователей ChatGPT и Codex в ЕС. Для разработчиков, использующих API, функция доступна уже сегодня, но отключена по умолчанию. OpenAI не делает маркировку глобальным стандартом на старте, что отличает её от стратегии Anthropic, применившей watermarking для Claude во всем мире.
Почему это важно
Инициатива вызвана вступлением в силу 2 августа правил прозрачности EU AI Act, требующих маркировки AI-контента. OpenAI ранее откладывала запуск из-за опасений потерять пользователей в пользу конкурентов без маркировки. Сейчас компания ограничивает доступ к детекторам только утвержденными исследователями, признавая, что отсутствие водяного знака не гарантирует человеческого авторства, а его наличие не указывает на степень человеческого участия.
Источник: TechCrunch ↗