Суть проблемы: корреляция вместо диверсификации
Команда исследователей во главе с Джиллиан Росс (Jillian Ross) и Эндрю Ло (Andrew W. Lo) из MIT и других институтов опубликовала работу, ставящую под сомнение линейную зависимость между «умом» модели и надежностью системы. Авторы разработали фреймворк, показывающий, что использование передовых LLM в критически важных системах (финансы, модерация, найм) создает недиверсифицируемый риск.
Причина кроется в общей архитектуре и данных обучения: чем мощнее модель, тем более схожими становятся ее решения. В отличие от человеческих трейдеров с разным опытом, LLM-агенты «думают» одинаково, что приводит к синхронным действиям, которые не гасят друг друга.
Результаты симуляции: три ключевых вывода
Авторы протестировали гипотезу на агентной симуляции финансовых рынков с участием LLM-трейдеров разного уровня способности. Результаты выявили парадокс качества:
- Рост корреляции: Фронтальные (наиболее мощные) LLM демонстрируют значительно более высокую степень коррелированного поведения, которое растет вместе с их способностью.
- Позитивный сценарий: Если общая логика агентов верна, увеличение их числа снижает рыночный риск.
- Негативный сценарий: В условиях общей дезинформации (common misinformation environment) та же самая корреляция становится уязвимостью, многократно усиливая системные ошибки.
Детали эксперимента
Исследование использует агентное моделирование, где LLM выступают в роли независимых участников рынка. Ключевой метрикой стала не прибыль отдельного агента, а стабильность системы в целом. Было показано, что улучшение индивидуальной способности модели (individual model capability) не обязательно приводит к улучшению системных исходов (system-level outcomes).
| Условие среды | Влияние мощных LLM на систему | Механизм |
|---|---|---|
| Точная общая информация | Снижение риска | Коррелированные правильные действия стабилизируют рынок |
| Общая дезинформация | Рост риска | Коррелированные ошибочные действия вызывают каскадный сбой |
| Разрозненная информация | Нейтрально/Положительно | Диверсификация мнений снижает волатильность |
Почему это важно для индустрии
Результаты работы arXiv:2609.04373 v1 (подана 3 сентября 2026 года) требуют пересмотра стратегий внедрения ИИ. Простое обновление до более новой версии модели (например, с GPT-4 на GPT-5 или аналоги) может непреднамеренно увеличить системные риски, если не обеспечена изоляция от общих источников ошибок или не внедрены механизмы диверсификации архитектур. Это особенно критично для высокочастотного трейдинга и автоматизированных систем принятия решений.
Источник: arXiv cs.AI ↗