Суть эксперимента: когда модели спорят сами с собой
Команда исследователей во главе с Мохаммадом Сияхкамари провела контролируемый эксперимент по моделированию динамики мнений (opinion dynamics) в длинных диалогах. В центре внимания — спорная тема атрибуции изменения климата. Ученые создали среду, где две языковые модели ведут многоходовые дебаты, отслеживая не только финальные заявления, но и поведенческие изменения в каждом реплике.
Ключевые результаты: расхождения в поведении
Главный вывод исследования заключается в том, что явное указание модели «убедить оппонента» не является надежным инструментом влияния. Более того, результаты кардинально различаются в зависимости от того, кто с кем спорит. Взаимодействие одной и той же модели с самой собой (same-model) в среднем сужает разрыв во мнениях, но только для одного из протестированных брендов. Напротив, кросс-модельные взаимодействия (cross-model) приводят к расширению разрыва во мнениях, усиливая поляризацию.
Также выявлено, что явные отчеты модели о своей позиции и ее фактическое поведение внутри диалога фиксируют разные аспекты динамики мнений, что ставит под вопрос традиционные методы оценки убеждения.
Сравнительная таблица моделей
| Модель | Роль в эксперименте | Ключевая особенность |
|---|---|---|
| GPT-6 Luna | Участник дебатов | Показала способность к сужению разрыва мнений в self-interaction |
| Gemini 2.5 Flash Lite | Участник дебатов | В кросс-модельных спорах способствовала расширению разрыва мнений |
Почему это важно для индустрии
Результаты бросают вызов упрощенному взгляду на LLM как на инструменты, которые можно легко «настроить» на убеждение через промпты. Исследование подчеркивает, что конвергенция или дивергенция мнений зависит от архитектурных особенностей самих моделей, а не только от заданных ролей. Это критически важно для разработчиков систем с несколькими агентами (multi-agent systems), которым необходимо прогнозировать, как их AI-команда будет влиять на пользователей или друг на друга в долгосрочной перспективе.
Источник: arXiv cs.AI ↗