Суть открытия: от хаоса к паттерну
До сих пор поведение больших языковых моделей (LLM) в ситуациях с высоким риском считалось непредсказуемым. Однако новое исследование, опубликованное 24 апреля 2026 года, вводит понятие "отношения к риску" (risk attitude) как стабильной характеристики модели. Авторы доказали, что LLM не просто генерируют ответы, а имеют внутреннюю, неизменную «настройку» на риск, которая сохраняется в рамках одной задачи и переносится между разными доменами.
Методология: 6 моделей против 100 людей
Для проверки гипотезы команда исследователей (Bowen Sun, Rui Min, Yuxi Wang и др.) разработала кросс-доменную фреймворк-систему, которая разделяет вероятностную оценку риска и категориальное решение. В эксперименте участвовали шесть репрезентативных LLM и 100 человек-контролеров. Тестирование проводилось в трех сложных сценариях:
- Навигация в пространстве (Spatial navigation): выбор маршрутов с разной степенью опасности.
- Клиническая триаж (Clinical triage): распределение ресурсов при ограниченных возможностях.
- Финансовое распределение (Financial allocation): инвестиции в активы с разной волатильностью.
Ключевые метрики и результаты
Используя регрессионные модели, ученые извлекли «карту» принятия решений (belief-to-decision mapping) для каждого агента. Результаты выявили три фундаментальных свойства LLM:
- Внутренняя согласованность (Intra-task consistency): Модель ведет себя стабильно внутри одной задачи. Если она выбрала консервативную стратегию в финансах, она не будет хаотично менять её в рамках того же сценария.
- Стабильность рангов (Cross-domain rank-order stability): Относительная «агрессивность» или «консерватизм» модели сохраняется при переходе из одной предметной области в другую.
- Сужение распределения: В отличие от людей, LLM демонстрируют суженное распределение отношений к риску, избегая крайних значений.
Сравнение: LLM vs Человек
Главное отличие, выявленное в ходе анализа, заключается в диапазоне вариативности. Люди демонстрируют широкий спектр реакций на риск, тогда как модели склонны к усредненным, более предсказуемым решениям.
| Параметр | Человек (Baseline) | LLM (Среднее по выборке) |
|---|---|---|
| Внутренняя согласованность | Высокая, но зависит от контекста | Робастная (стабильная) |
| Кросс-доменная стабильность | Низкая (разные сферы — разные стратегии) | Высокая (сохранение ранга) |
| Диапазон риска | Широкий (от крайнего консерватизма до азарта) | Суженный (консервативный центр) |
| Количество участников | 100 | 6 моделей |
Почему это важно для индустрии
Результаты исследования закладывают фундамент для AI Alignment (согласования ИИ). Понимание того, что отношение к риску — это интринсивная (внутренняя) диспозиция модели, позволяет разработчикам:
- Предсказывать поведение систем в критических ситуациях (медицина, автономный транспорт).
- Разрабатывать новые метрики оценки безопасности, выходящие за рамки простого «правильности» ответа.
- Корректировать поведение моделей через fine-tuning, целенаправленно меняя их «профиль риска».
Исследование открывает путь к созданию AI-систем, чье поведение в условиях неопределенности будет не только эффективным, но и этически предсказуемым.
Источник: arXiv cs.AI ↗