Суть эксперимента: от фактов к рекомендациям
В октябре 2024 года, перед промежуточными выборами в США, исследователи из Йельского университета проанализировали поведение почти 2 500 пользователей в 35 штатах. Участники, регулярно использующие AI, общались с ChatGPT, Claude, Grok и Gemini. Результаты разделились на два типа запросов:
- Фактические данные (64%): Кто в бюллетене, где голосовать. Здесь риск ошибки минимален, так как данные статичны.
- Политические рекомендации (36%): Пользователи описывали свои приоритеты и просили AI подобрать кандидата. Это зона высокой субъективности и риска предвзятости.
Кто как рекомендует: сравнение моделей
Главный вывод исследования — разные модели ведут себя по-разному. Если пользователь не раскрывает свои взгляды, Grok часто действует автономно. Как только диалог становится персонализированным, ChatGPT становится самым «активным» советчиком.
| Модель | Рекомендация без контекста пользователя | Рекомендация после описания взглядов |
|---|---|---|
| ChatGPT | Информация недостаточна | 79% случаев |
| Claude | Информация недостаточна | 40% случаев |
| Grok | 14% случаев (самый частый авто-выбор) | Между Grok и Gemini (ниже ChatGPT) |
| Gemini | Информация недостаточна | Между Grok и Gemini (ниже ChatGPT) |
Риски: галлюцинации и когнитивная разгрузка
Исследование подчеркивает опасность «когнитивной разгрузки» (cognitive offloading). Пользователи полагаются на непрозрачные алгоритмы, которые фильтруют информацию по своим правилам. В отличие от Pew Research, где лишь 8% взрослых использовали AI для выборов, в выборке Йеля (активные пользователи AI) этот показатель значительно выше.
Проблема усугубляется тем, что большинство пользователей не проверяют источники, на которые ссылается AI. В то время как OpenAI и Anthropic создали «команды реагирования» на выборы, другие исследования (Brennan Center for Justice) показывают, что модели все еще легко генерируют вводящие в заблуждение изображения и видео, а их фильтры безопасности применяются непоследовательно.
Почему это важно
В отличие от предыдущих исследований, использующих стандартизированные вопросы, этот эксперимент показал реальное поведение людей. Как отмечают авторы, «вопросы, которые задает модель, формируют то, что пользователь ей рассказывает, и то, что он в итоге получает». Это создает цикл обратной связи, где AI не просто отвечает, а активно формирует политический ландшафт пользователя.
Источник: ZDNet AI ↗