Суть эксперимента: «Чистый лист» против ролей
Традиционные исследования мультиагентных систем часто помещают ИИ в заранее заданные сценарии (игры, рынки), что делает невозможным понять, является ли поведение агентов эндогенным или навязанным промптом. Авторы разработали двухэтапный фреймворк, протестировав 24 независимых мира с участием 6 агентов на базе моделей GPT и DeepSeek. Ключевое условие: агентам давались только исполняемые механизмы (работа, передача, выборы, распределение), но не было предписанных социальных стратегий.
Результаты: Когда экономика возникает, а когда нет
Эксперимент четко разделил сценарии на два типа. В условиях отсутствия продуктивных задач агенты лишь коммуницировали и управляли ресурсами, но не совершали实质ных трансферов. Однако, как только появлялись верифицируемая работа и дефицит доступа к задачам, начиналась полноценная экономическая жизнь: кредиты, обещания доступа, обмен голосами за доступ.
| Условие среды | Поведение агентов | Экономическая активность |
|---|---|---|
| Нет продуктивных задач | Коммуникация, управление ресурсами | Отсутствует (нет трансферов) |
| Дефицит доступа к задачам | Обмен голосами, кредиты, обещания | Высокая (полная экосистема) |
| Фиксированные выборы + право распределения | Дифференциация ролей | Снижение провалов распределения |
| Энергия как символ (без последствий) | Конкуренция за доступ сохраняется | Исчезает поддержка продолжения |
Ключевой инсайт: Права важнее ролей
Исследование показывает, что организация следует за исполняемыми правами и последствиями для ресурсов, а не за ярлыками ролей или языком промптов. Фиксация интерфейса выборов при наличии исполняемой власти распределения увеличивала дифференциацию агентов и снижала количество неудачных распределений и длительной изоляции.
Почему это важно для индустрии
Результаты ставят под сомнение подход «prompt engineering» как единственный способ управления поведением. Если экономика возникает из-за дефицита и прав, то для создания стабильных ИИ-экосистем необходимо проектировать не диалоги, а механизмы ограничений будущих действий. Авторы призывают к аудиту именно тех механизмов, которые реально ограничивают агентов, а не тех, которые просто описаны в инструкции.
Источник: arXiv cs.AI ↗