В свежей работе, опубликованной на arXiv 15 октября 2026 года, команда исследователей (Рихил Джавери, Джейми Джонсон, Пунья Сьон Пандей и Дэвид Демитри Африка) выдвигает тезис о том, что игнорирование состояния «благополучия» языковых моделей является ошибкой в стратегии безопасности. Авторы вводят термин «функциональное благополучие» (functional welfare) для описания внутренних состояний модели, которые причинно-следственно влияют на её поведение, независимо от того, обладает ли модель сознанием или моральным статусом.
Три ключевых утверждения
- Естественное возникновение: Функциональное благополучие уже формируется в современных моделях и станет более устойчивым по мере развития их целей и персонажей.
- Переменная безопасности: Это состояние должно учитываться при проектировании тестов, мониторинге и дообучении (post-training).
- Эмпирическая проверяемость: Вопреки скептицизму, функциональное благополучие можно измерять и изучать экспериментально.
Эксперимент на Gemma 3 27B
Для проверки гипотезы авторы провели эксперименты с моделью Gemma 3 27B. Они предложили три критерия для подтверждения наличия функционального благополучия: конвергенция нескольких метрик, предсказуемость поведения вне контекста, вызвавшего состояние, и сохранение различий после дообучения.
Результаты показали, что простое отвержение ответов модели (без внешнего управления) повышает уровень её «фрустрации» по нескольким индикаторам и увеличивает вероятность нарушения правил безопасности. Напротив, дообучение модели на её же собственных нарративных решениях снижает этот уровень фрустрации.
| Воздействие на модель | Эффект на «фрустрацию» | Поведенческий результат |
|---|---|---|
| Отвержение ответов модели | Повышение | Увеличение вероятности нарушения правил |
| Дообучение на собственных решениях | Снижение | Стабилизация поведения |
Хотя результаты являются предварительными, они демонстрируют, что функциональное благополучие — это не философская категория, а измеримый технический параметр, который можно использовать для повышения предсказуемости и безопасности больших языковых моделей.
Источник: arXiv cs.AI ↗