Проблема: «Уверенная ложь» и длина ответа
Большие языковые модели (LLM) всё чаще участвуют в принятии решений с высокими ставками. Главная проблема доверия к ним — способность генерировать ложные выводы с убедительным, авторитетным тоном. Существующие методы оценки неопределенности (Uncertainty Quantification) часто требуют многократных генераций или отдельного обучения, а их скалярные оценки не показывают, где именно модель сомневается в процессе рассуждения. Кроме того, недавние работы показали, что длина ответа сильно коррелирует с оценками уверенности, что ставит под сомнение истинную предсказательную силу многих эстиматоров.
Решение: U-Space и семантические якоря
Команда исследователей во главе с Тобиасом Брауном (Tobias Braun) представила U-Space — низкоразмерное подпространство, которое делает эволюцию неопределенности модели измеримой и интерпретируемой. Метод основан на механистической интерпретируемости (mechanistic interpretability):
- Выявляются семантические якоря сомнения и уверенности.
- Их направления «разупаковки» (unembedding) проецируются обратно в остаточное пространство (residual space).
- Контрасты между ними формируют ортогональный базис.
- Метод U-Lens проецирует состояние каждого токена на этот базис, создавая карту неопределенности на уровне токенов.
Ключевые преимущества
U-Space не требует ни меток корректности, ни повторных генераций, ни дообучения модели. Он позволяет агрегировать токеновую карту в скалярный балл уверенности, который можно использовать для принятия решений (например, о переходе к человеку).
Результаты и сравнение
Метод протестирован на бенчмарках для рассуждений. U-Space демонстрирует превосходство над базовыми подходами как в стандартных условиях, так и при контроле длины вывода, что подтверждает: он улавливает именно неопределенность, а не просто длину текста.
| Характеристика | U-Space (предлагаемый метод) | Традиционные методы (Baseline) |
|---|---|---|
| Необходимость дообучения | Нет (Zero-shot) | Часто требуется (Supervised) |
| Многократные генерации | Не требуются | Часто требуются |
| Интерпретируемость | Высокая (карта токенов) | Низкая (скалярное значение) |
| Устойчивость к длине ответа | Высокая | Слабая (корреляция с длиной) |
Код для реализации метода уже доступен в открытом доступе, что открывает путь для внедрения более надежных механизмов контроля качества в LLM-приложения.
Источник: arXiv cs.CL ↗