Проблема эмоционального перефразирования
Существующие модели обнаружения фейковых новостей часто теряют эффективность, когда заголовок или текст статьи переписываются с изменением эмоциональной окраски, но без изменения фактической основы. Авторы работы (Yupei Guo, Jiajun He, Xiaohan Shi и др.) отмечают, что такие «эмоционально переписанные» новости обманывают детекторы, фокусирующиеся на стилистике. Для решения этой проблемы команда предлагает использовать стабильный контекст — объяснения, сгенерированные LLM на основе оригинальных фактов.
Архитектура GCA (Gated Cross Attention)
Ключевое нововведение — механизм Gated Cross Attention (GCA). Он позволяет модели адаптивно интегрировать эмоционально измененный текст новости с ее объяснением. Это помогает системе игнорировать шум от эмоционального перефразирования и фокусироваться на информативных частях объяснения, снижая риск ошибок из-за рассинхрона между текстом и контекстом.
Результаты бенчмарков
Эксперименты проводились на трех популярных датасетах: PolitiFact, GossipCop и LUN. Метод показал значительное улучшение устойчивости к эмоциональным вариациям, особенно на PolitiFact и LUN, сохранив при этом конкурентоспособные результаты на GossipCop. Ниже приведена сводка эффективности подхода:
| Датасет | Условие | Результат/Наблюдение |
|---|---|---|
| PolitiFact | Эмоциональные вариации | Заметное улучшение метрик обнаружения |
| LUN | Эмоциональные вариации | Заметное улучшение метрик обнаружения |
| GossipCop | Эмоциональные вариации | Конкурентоспособные результаты (без резких скачков, но стабильно) |
Значение для индустрии
Работа демонстрирует, что генерация объяснений (explanations) через LLM может служить надежным «якорем истины» для детекторов. Это особенно важно в эпоху, когда боты и авторы фейков активно используют эмоциональные триггеры для виральности. Код и данные исследования доступны по ссылке в оригинальной статье, что позволяет разработчикам протестировать GCA-фреймворк на своих данных.
Источник: arXiv cs.CL ↗