Проблема негласных правил
Люди постоянно координируют свои действия, опираясь на негласные социальные нормы — скрытые ожидания, которые трудно измерить. Искусственный интеллект, особенно большие языковые модели (LLM), часто проваливается в таких динамичных взаимодействиях, так как текущие подходы обучают модели на демонстрациях, не выделяя лежащие в их основе принципы.
Методология: 3456 взаимодействий
Команда исследователей во главе с И Яном (Yi Yang) выбрала взаимодействие пешехода и автомобиля как эталонную динамическую задачу. Они разработали упрощенную экспериментальную платформу, собрав данные с 3 456 динамических взаимодействий людей. На основе этого массива были выделены три ключевых принципа, составляющих основу социальных норм:
- Предсказуемость результата (Outcome predictability): способность агента действовать так, чтобы его намерения были понятны.
- Совпадение ценностей (Value alignment): учет приоритетов и целей другого участника.
- Осознание преимуществ (Advantage awareness): стремление к взаимовыгодному исходу.
Результаты: Превосходство над людьми
Интеграция этих принципов в LLM кардинально изменила качество взаимодействия. В задачах замкнутого цикла (closed-loop interaction) с участием реальных людей, модель, обученная на социальных нормах, показала выдающиеся результаты.
| Метрика | Результат | Значение |
|---|---|---|
| Общий балл (Total Score) | ~4x | Превосходство над базовой стратегией (baseline) |
| Сравнение с людьми | +43% | Результат AI выше, чем в паре человек-человек |
Почему это важно
Исследование доказывает, что формализация неявных социальных норм в явные, количественные принципы позволяет ИИ достигать взаимовыгодной координации. Это критически важно для внедрения автономных систем в общество, где от их поведения зависят безопасность и комфорт людей.
Источник: arXiv cs.AI ↗