Масштаб эксперимента: 5460 ответов на 28 войн
Исследователь Джейсон Миклиан (Jason Miklian) провел масштабный аудит работы современных ИИ-ответчиков (answer engines). Команда задала серию вопросов о 28 актуальных глобальных конфликтах пяти ведущим моделям и проанализировала 5 460 сгенерированных ответов. Результаты были сверены с документально подтвержденными данными. Вывод однозначен: чем «тоньше» информационный след о регионе, тем чаще ИИ выдумывает факты, ошибается в цифрах и приписывает действия не тем сторонам.
Механика GEO: как ИИ-поисковики легко обмануть
Ключевая находка исследования — уязвимость ИИ к Generative Engine Optimization (GEO). ИИ-модели, ищущие ответы в интернете, опираются на доступные веб-источники. Если о конфликте мало информации (thin record), алгоритмам проще всего подхватить искаженные данные. Исследователи проанализировали 1 048 сайтов, которые ИИ-модели использовали как источники. Выявлено, что оптимизация этих источников уже идет: государственные акторы активно захватывают цифровое пространство, чтобы формировать нарративы через ИИ.
Статистика ошибок: зависимость от «информационной плотности»
Ошибка ИИ не случайна. Она структурно связана с доступностью данных. Ниже приведена логика корреляции, выявленной в ходе анализа:
| Характеристика конфликта | Доступность цифрового следа | Типичная ошибка ИИ | Риск GEO-манипуляции |
|---|---|---|---|
| Высокая освещенность | Много источников | Минимальная | Низкий (конкуренция фактов) |
| Средняя освещенность | Умеренное число сайтов | Неточные цифры | Средний |
| Низкая освещенность | Мало или нет данных | Галлюцинации, выдумка фактов | Критический (легко исказить) |
Почему это важно для аналитиков и политиков
Результаты исследования сигнализируют о начале новой фазы информационной войны — GEO-войны. Если раньше дезинформация распространялась через соцсети, то теперь она внедряется в саму основу ответов ИИ, которые все чаще используют аналитики, ученые и общественность. Автор призывает вернуться к методам глубокого локального мониторинга и перевода, которые ИИ пока не может реплицировать, чтобы обеспечить достоверность данных в зонах конфликтов.
Источник: arXiv cs.AI ↗