Проблема: разрыв в коммуникации
По мере того как общение переходит в цифровую среду, опосредованную ИИ, люди теряют доступ к невербальным сигналам, необходимым для быстрого исправления ошибок. Автор статьи Babak Abbaschian утверждает, что инструменты обнаружения недопонимания отстают от скорости распространения коммуникации. В работе предлагается не просто классифицировать ошибки, а моделировать процесс как многослойный: от генерации расхождения в смыслах до его усиления или обнаружения.
Методология: синтез 9 дисциплин
Исследование консолидирует данные из девяти научных областей, которые редко цитируют друг друга (прагматика, лингвистика, HCI, AI). В результате выделено 11 точных режимов сбоев (failure modes). Ключевое открытие: каждый сбой работает в строго определенной точке коммуникативного процесса, а не хаотично. Эти точки формируют 8 аналитических слоев.
Структура сбоев: Генерация, Усиление, Обнаружение
Все выявленные механизмы делятся на три функциональные группы. Большинство из них (8 механизмов) отвечают за первичную генерацию расхождения в смыслах. Два механизма отвечают за усиление уже существующей ошибки, а один — за финальное обнаружение и ремонт коммуникации. Ниже представлена сводная таблица распределения ролей:
| Функция механизма | Количество режимов | Роль в процессе |
|---|---|---|
| Генерация расхождения | 8 | Инициируют ошибку на определенном слое (от сигнала до реконструкции смысла) |
| Усиление расхождения | 2 | Увеличивают глубину непонимания, если оно уже возникло |
| Обнаружение и ремонт | 1 | Определяют, будет ли ошибка исправлена или останется незамеченной |
Формальное моделирование
Автор предлагает формальную модель восьми слоев, расширяющую теорию информации и коммуникации. Традиционно эта теория фокусируется на передаче сигналов, но новая модель смещает акцент на реконструкцию смысла получателем. Это позволяет точнее оценивать, где именно AI-агент теряет контекст или интерпретирует запрос неверно.
Практическая ценность и ресурсы
Работа включает матрицу доказательств (source-by-source evidence matrix), которая делает каждую оценку проверяемой, а также руководство по кодированию (coding manual) для независимого применения таксономии. В приложении представлены 9 проанализированных случаев диалога. Это первый классификационный подход, который одновременно локализует механизмы в процессе и типизирует их по функции, что критически важно для разработки более надежных AI-агентов.
Источник: arXiv cs.AI ↗