Проблема: LLM-агенты застревают в стереотипах
Современные большие языковые модели (LLM) активно используются для социального моделирования, но их агенты часто страдают от так называемого эссенциализма идентичности. Это когнитивное искажение, при котором модель воспринимает демографические ярлыки (пол, возраст, расу) как неизменные черты характера, а не как контекст. В результате агенты демонстрируют сильную демографическую сегрегацию и сжатие внутри групп: все представители одной группы реагируют одинаково, теряя человеческое разнообразие.
Авторы исследования指出, что причина кроется в двух факторах: статичных профилях агентов и неспособности «памяти через промпты» (prompt-only memory) надежно интегрировать опыт во времени.
Решение: Архитектура LifeMem
Команда разработала LifeMem — фреймворк продольной (longitudinal) памяти, вдохновленный комплементарными системами памяти человека. В отличие от статических профилей, LifeMem объединяет два компонента:
- Структурированное извлечение жизненных событий: Агенты получают доступ к хронологии событий, формирующих их историю.
- Параметрическая память агента: Специализированная память, адаптированная под конкретного агента, которая постоянно интегрирует новый опыт, меняя внутренние состояния модели.
Эксперименты и метрики
Для проверки гипотезы исследователи использовали два крупных социологических датасета: Add Health и Understanding Society. Тестирование проводилось на трех различных LLM. LifeMem показала значительное улучшение по ключевым метрикам по сравнению с базовыми методами:
| Метрика | Результат LifeMem | Значение |
|---|---|---|
| Распределение ответов | Высокое соответствие | Агенты реагируют так же, как реальные люди в тех же ситуациях |
| Общее разнообразие | Увеличено | Снижена гомогенность ответов внутри демографических групп |
| Внутригрупповое разнообразие | Увеличено | Агенты одной группы начинают вести себя по-разному |
| Динамика изменений | Реалистичная | Зафиксированы изменения в ответах агентов на разных этапах жизни |
Почему это важно
Результаты показывают, что просто задать профиль персонажа недостаточно. Для создания достоверных социальных симуляций, которые можно использовать в науке, образовании или тестировании продуктов, агенты должны эволюционировать. LifeMem доказывает, что внедрение продольной памяти позволяет LLM выходить за рамки статических шаблонов, создавая более честные и динамичные цифровые копии людей.
Источник: arXiv cs.CL ↗