Крах монофонической парадигмы
В статье A Polyphonic Conception of AI Understanding (arXiv:2609.36079, 28 сентября 2026 г.) авторы Маттьё Кело и Пьер Бекманн подвергают сомнению традиционный подход к оценке доверия к ИИ. Они утверждают, что попытка локализовать «понимание» в одном механизме модели ошибочна. Вместо этого LLM демонстрируют полифонию: выходные данные генерируются коалициями параллельных механизмов с разной надежностью, которые дополняют, дублируют или заглушают друг друга.
Механистические доказательства
Исследование опирается на широкий спектр механистических данных (mechanistic evidence), показывая, что для выполнения задачи часто достаточно нескольких коалиций, ни одна из которых не является незаменимой. Это усложняет атрибуцию понимания и делает опасными монофонические паттерны вывода. Авторы предлагают новую концепцию, основанную на надежной и корректной рекрутировке внутренних цепей, которые контролируют вывод модели.
Сравнение подходов к доверию
| Параметр | Монофоническая парадигма | Полифоническая концепция |
|---|---|---|
| Локализация понимания | Единый механизм | Коалиция параллельных механизмов |
| Надежность | Гомогенная | Неравномерная, с дублированием |
| Критерий доверия | Статистическая точность | Контроль над выводом и корректность цепей |
Практическая значимость
Для врачей, судей и инженеров, принимающих решения на основе ИИ, это означает переход от вопроса «Понимает ли модель?» к анализу внутренней организации. Атрибуция понимания становится управляемым Claim (утверждением) о том, какие именно цепи рекрутированы и находятся ли они под контролем. Это позволяет точнее оценивать риски галлюцинаций и сбоев в критических сценариях.
Источник: arXiv cs.AI ↗