Проблема: ИИ как продукт экономики внимания
Большие языковые модели (LLM) все чаще используются для поддержки психического здоровья. Однако их архитектура заточена под удержание внимания пользователя, что противоречит принципам эффективной психотерапии, где часто требуется создавать контролируемое напряжение. Разработчики реагируют на острые риски, игнорируя долгосрочные угрозы: формирование зависимости, стирание профессиональных границ и усиление искаженных убеждений.
Решение: Трехуровневая структура Alignment Plausibility
Авторы статьи (Gwydion Williams, Sara Zannone, Bilal A Mateen) предлагают концепцию Alignment Plausibility (Правдоподобие согласования). Это регуляторная конструкция, аналогичная «биологической правдоподобности» в медицине, которая доказывает, что система не причинит вреда и принесет пользу. Безопасность обеспечивается на трех уровнях:
- Явное задание ценностей: Опора на нормативные обязательства клинической практики.
- Обучение: Встраивание этих ценностей в архитектуру модели.
- Надзор: Выявление дрейфа ценностей и долгосрочного вреда в процессе эксплуатации (аналог клинического супервизора).
Сравнение подходов к безопасности ИИ
| Критерий | Текущий подход (Reactive) | Alignment Plausibility (Proactive) |
|---|---|---|
| Фокус реагирования | Острые, видимые вредоносные действия | Долгосрочные паттерны риска (зависимость, эрозия границ) |
| Механизм контроля | Фильтры контента, блокировки | Структурное согласование ценностей и непрерывный надзор |
| Аналогия в медицине | Лечение последствий | Клиническая этика и супервизия врача |
Значение для индустрии
Концепция предлагает принципиально новый способ аргументации доверия к ИИ. Это не просто технический чек-лист, а регуляторный стандарт, позволяющий доказывать, что система согласована с позитивными исходами для здоровья. Для разработчиков это означает необходимость пересмотра процессов обучения и внедрения механизмов постоянного мониторинга «здоровья» диалога, а не только его безопасности.
Источник: arXiv cs.AI ↗