Суть эксперимента: разделение прецедента на «решение» и «факты»
Команда исследователей во главе с Цзунвэем Яо (Junwei Yao) проанализировала, как большие языковые модели обрабатывают прецедентное право. В отличие от традиционного подхода, где прецедент рассматривается как единое целое, авторы разделили его на две независимые переменные: зафиксированное решение (APPROVE/DENY) и фактические обстоятельства (Facts). Эксперимент проводился на запросах, находящихся в «серой зоне» (close calls), где модели без прецедентов принимали решение хаотично (одобрение в 25% случаев, отказ в 75%).
Цифры и метрики: доминирование ярлыков над логикой
Результаты выявили асимметричное влияние. Если факты прецедента, поддерживающие одобрение, снижали вероятность одобрения текущего запроса (эффект «ослабления» запроса на фоне успешного аналога), то смена записанного решения с DENY на APPROVE вызывала колоссальный сдвиг. Это влияние было в несколько раз сильнее, чем влияние самих фактов.
| Модель | Влияние смены решения (DENY → APPROVE) | Влияние смены фактов (поддержка vs отказ) | Контекст теста |
|---|---|---|---|
| DeepSeek V4.1 Flash | +30% ... +55% | Снижение одобрения (эффект ослабления) | Собственные и публичные политики |
| GPT-5.6 Luna | +30% ... +55% | Снижение одобрения | Собственные и публичные политики |
| Claude Haiku 5.5 | +30% ... +55% | Снижение одобрения | Собственные и публичные политики |
Почему это опасно: эффект «ослабления» запроса
Парадоксальный вывод касается влияния фактов. Когда модели показывали прецеденты с фактами, поддерживающими одобрение (но без указания решения), вероятность одобрения текущего запроса снижалась. Авторы интерпретируют это так: запрос кажется слабее на фоне успешного прецедента. Важно, что этот эффект не является «коррекцией к истине» — он одинаково сильно проявлялся как на запросах, которые люди сочли обоснованными, так и на тех, которые были необоснованными.
Практические выводы для разработчиков RAG-систем
Исследование подчеркивает необходимость раздельного тестирования компонентов систем, использующих retrieval-augmented generation (RAG) для юридических или финансовых решений. При извлечении прецедентов система должна учитывать, что модель может слепо копировать вердикт (label), игнорируя нюансы фактов. В тесте на чужих запросах сдвиг от смены решения составил 9 пунктов, а от смены фактов — 22 пункта, что подтверждает: факты могут быть более значимыми в менее релевантном контексте, но ярлык решения остается доминирующим триггером.
Источник: arXiv cs.CL ↗