Что такое Persona Cartography?
Команда исследователей во главе с Люком Бейнсом (Luke Baines) представила новый подход к декомпозиции и контролю поведения LLM. Авторы предлагают рассматривать «персоны» моделей не как абстрактные паттерны, а как конкретные позиции в пространстве поведенческих черт. Для описания этих черт используется классическая психологическая модель OCEAN (Big Five):
- Openness (Открытость)
- Conscientiousness (Добросовестность)
- Extraversion (Экстраверсия)
- Agreeableness (Доброжелательность)
- Neuroticism (Невротизм)
Ключевая инновация заключается в использовании низкоранговых адаптеров (LoRA) для усиления или подавления отдельных черт в весовом пространстве модели. Это позволяет инженерам «настраивать» поведение модели, не переобучая её с нуля.
Масштаб исследования и результаты
Эксперименты проводились на шести моделях объемом от 4B до 32B параметров, принадлежащих трем разным семействам. Исследователи оценивали эффективность методов с помощью LLM-судей, калиброванных по панели человеческих оценок, а также специализированных бенчмарков. Результаты показали, что адаптеры:
- Изменяют целевую черту монотонно в зависимости от масштаба.
- Комбинируются приблизительно аддитивно, позволяя создавать смешанные персоны.
- Сохраняют базовые способности модели (capability benchmarks) на умеренных масштабах.
Влияние на безопасность и поведение
Особое внимание уделено тому, как изменение черт влияет на безопасность. Исследование выявило прямую корреляцию между осью невротизма и уровнем фрустрации модели, а также между осью доброжелательности и склонностью к сycophancy (угождению пользователю). Это открывает путь к тонкой настройке этических параметров LLM.
Новые метрики: Unsupervised Psychometric Pipeline
Помимо работы с OCEAN, команда представила ненадзорный психометрический конвейер, который выявляет четыре интерпретируемых поведенческих фактора непосредственно из роулаутов (выборов) модели:
| Фактор | Описание |
|---|---|
| Tone (Тон) | Эмоциональная окраска ответов |
| Initiative (Инициативность) | Склонность к проактивным действиям |
| Didacticism (Дидактизм) | Склонность к обучению и объяснениям |
| Epistemic Caution (Эпистемическая осторожность) | Степень уверенности в утверждениях |
Работа Persona Cartography создает мост между измерением личности, редактированием моделей и обеспечением их безопасности, предлагая инструменты для обучения, масштабирования и композиции черт в весовом пространстве.
Источник: arXiv cs.AI ↗