Проблема «контекстуальной неуместности»
Новое исследование, опубликованное в arXiv (5 ноября 2026 года), ставит под сомнение саму природу обнаружения AI-генераций. Авторы — группа лингвистов и антропологов во главе с Мичелл Моргенстерн (Michelle Morgenstern) — проанализировали реальные практики идентификации AI-текстов среди редакторов Wikipedia и студентов. Оказалось, что ключевым триггером для обвинения человека в использовании ИИ является не наличие специфических «роботизированных» паттернов, а прагматическая неуместность (pragmatic infelicity).
Проще говоря: текст помечают как AI, потому что он «не подходит» к ситуации, а не потому, что он технически сгенерирован машиной. Это создает порочный круг, где любые отклонения от ожидаемого стиля могут быть использованы как доказательство.
Методология: от лексического анализа к социологии
Исследование сочетало количественный анализ лексических изменений с качественным кодированием дискурса. Ученые изучали, как люди аргументируют свои подозрения. Выяснилось, что доказательства делятся на несколько типов, часто противоречивых:
- Текстуальные признаки: специфические слова или фразы, которые ассоциируются с LLM.
- Содержательные суждения: мнение, что текст слишком «гладкий» или лишен эмоций.
- Моральные предрассудки: обвинения в лени или обмане, которые проецируются на стиль письма.
Ключевые выводы о природе «AI-стиля»
Самый важный инсайт работы заключается в том, что «AI-подобность» не является контекстно-независимым свойством текста. То, что в одном контексте считается нормой, в другом может быть расценено как признак генерации. Это создает риск масштабирования предвзятости:
| Критерий оценки | Традиционный взгляд (технический) | Взгляд исследования (социолингвистический) |
|---|---|---|
| Основа подозрения | Наличие специфических n-грамм или статистических аномалий | Нарушение ожиданий аудитории относительно уместности |
| Роль контекста | Игнорируется (текст анализируется изолированно) | Критически важна (определяет, что есть «норма») |
| Результат | Объективное выявление AI-текста | Социальный контроль: определение того, «кто здесь человек» |
Почему это важно для разработчиков и пользователей
Авторы предупреждают, что системы обнаружения AI, обученные на данных из определенных контекстов (например, академических эссе), будут навязывать нормы этих контекстов повсеместно. Если инструмент считает, что «человеческий» текст должен быть эмоциональным и несовершенным, он будет помечать как AI любой формальный или структурированный текст, даже написанный человеком.
Это означает, что борьба с AI-генерациями через детекторы — это не техническая задача, а социальная. Она требует понимания того, какие нормы коммуникации мы хотим защищать и чьи голоса могут быть маргинализированы из-за «неуместного» стиля письма.
Источник: arXiv cs.CL ↗