Проблема верификации LLM
Большие языковые модели (LLM) демонстрируют выдающиеся способности к генерации гипотез, однако их склонность к галлюцинациям делает прямое использование этих выводов рискованным. Существующие методы решения этой проблемы имеют критические недостатки:
- Циклическая верификация (Circular Verification): LLM проверяет собственные генерации, что часто приводит к самоподтверждению ошибок.
- Тестирование на отложенных данных (Held-out Testing): Ложные гипотезы могут проходить проверку благодаря спурious-корреляциям в данных, а не реальной причинно-следственной связи.
Суть метода NxN E-valuation
Авторы (Bin Wang, Yan Zhong) предлагают алгоритм NxN E-valuation, который использует e-values (доказательства против нулевой гипотезы) для сертификации гипотез. Ключевая инновация заключается в том, что метод не требует построения специфической нулевой гипотезы для каждого случая. Вместо этого он использует большой набор данных, где каждая выборка служит нулевой гипотезой для других.
Метод реализует условный рандомизационный тест (CRT) (Conditional Randomization Test), что позволяет статистически значимо подтверждать или опровергать гипотезы, сгенерированные LLM, опираясь исключительно на доступные данные.
Сравнение подходов
Ниже приведена сравнительная характеристика традиционных методов и предложенного подхода NxN E-valuation:
| Критерий | Циклическая верификация | Тест на отложенных данных | NxN E-valuation (CRT) |
|---|---|---|---|
| Необходимость нулевой гипотезы | Да (часто неявная) | Да (требует явного определения) | Нет (выборки служат друг для друга) |
| Риск галлюцинаций | Высокий (самоподтверждение) | Средний (спурious-корреляции) | Низкий (строгая стат. сертификация) |
| Масштабируемость | Зависит от модели | Требует больших объемов данных | Высокая (использует весь датасет) |
Значение для индустрии
Метод NxN E-valuation позиционируется как универсальная замена для базовых техник верификации в системах, основанных на LLM. Он особенно актуален для исследовательских систем, где LLM выступают в роли «исследователей», генерирующих гипотезы. Предоставляя статистически обоснованный способ сертификации, алгоритм позволяет извлекать полезную информацию из генераций LLM, минимизируя риски, связанные с их ненадежностью.
Источник: arXiv cs.AI ↗