EviGraph: ИИ-рекомендации с доказательствами для госуслуг

Проблема «ложных отказов» в госуслугах

Системы рекомендаций в сфере государственных услуг часто сталкиваются с дилеммой: если пользователю не хватает какой-либо детали, ИИ должен рекомендовать услугу или воздержаться? Традиционный подход, при котором любой недостающий параметр считается критическим, приводит к избыточным отказам (abstention), лишая пользователей полезной информации. Авторы работы из Университета Гонконга (Yixi Zhou, Sikun Wang, Lei Fan, Fan Zhang) предлагают решение, которое различает критические требования и информацию, которая может оставаться нерешенной.

Архитектура EviGraph

Новая система EviGraph использует два ключевых компонента для обеспечения надежности:

• Языковой агент (Language Agent): связывает требования пользователя с доказательствами во временном графе знаний (Temporal Knowledge Graph), учитывая актуальность политик и услуг во времени.
• Детерминированный проверщик (Deterministic Checker): устанавливает, поддерживается ли рекомендация конкретными фактами, а не просто вероятностным прогнозом.

Результаты тестирования

Оценка проводилась на двуязычном (английский/китайский) бенчмарке государственных услуг Гонконга, который включает исполняемые ссылки на политики. Ключевая метрика — снижение количества ненужных отказов без потери качества решений. Важно отметить, что дополнительное усложнение проверки не всегда улучшает результат, что указывает на важность точного определения того, что именно должно быть установлено для принятия решения.

Почему это важно

Работа EviGraph демонстрирует сдвиг парадигмы от простого «дополнительного подтверждения» к «точному определению необходимых доказательств». Для пользователей это означает более релевантные рекомендации, а для разработчиков — новый подход к верификации AI-решений в высокорисковых сферах, где ошибка может стоить времени или денег.

Источник: arXiv cs.AI ↗