Проблема «черного ящика» в диагностике
В медицинской диагностике, особенно при анализе изображений (например, сетчатки глаза), недостаточно просто получить ответ от модели машинного обучения. Врачу необходимо понимать почему модель приняла такое решение, чтобы принять взвешенное клиническое решение. Традиционные методы Explainable AI (XAI) часто предоставляют лишь тепловые карты внимания, не объясняя логическую связь между признаками и диагнозом.
Решение: Аргументация по Тулемену
Авторы работы Anca Marginean и Adrian Groza (подано в arXiv 1 мая 2026 года) предлагают декомпозировать процесс диагностики на компоненты классической модели аргументации Стивена Тулемена. Система не просто выдает класс, а строит аргумент, состоящий из шести элементов:
- Claim (Утверждение): Диагноз, сгенерированный ML-моделью.
- Grounds (Основания): Извлеченные биомаркеры из изображения.
- Warrant (Обоснование): Логическая связь между биомаркерами и диагнозом, анализируемая медицинским ИИ-агентом.
- Qualifier (Квалификатор): Уверенность в аргументе, основанная на количественной оценке.
- Rebuttal (Контраргумент): Возможные альтернативные объяснения, найденные через сходство изображений.
- Backing (Поддержка): Медицинские знания, подтверждающие обоснование.
Технический стек и модели
Архитектура использует специализированные модели для каждого этапа аргументации, что позволяет изолировать ошибки и повысить доверие к системе:
| Компонент Тулемена | Используемая модель/технология | Функция в системе |
|---|---|---|
| Grounds (Основания) | Специализированная ML-модель | Извлечение биомаркеров из медицинских изображений |
| Warrant (Обоснование) | MedGemma | ИИ-агент с медицинскими знаниями, связывающий основания с утверждением |
| Qualifier (Квалификатор) | Количественная оценка | Определение степени уверенности на основе метрик моделей |
| Rebuttal (Контраргумент) | MedSigLip | Вычисление мер сходства изображений для поиска альтернативных интерпретаций |
Почему это важно
Подход смещает фокус с «предсказания» на «обоснование». Предоставляя врачу не просто метку класса, а полный аргументационный каркас, система позволяет специалисту критически оценить диагноз. Наличие компонента Rebuttal через MedSigLip особенно важно, так как оно явно указывает на случаи, когда диагноз может быть ошибочным из-за визуального сходства с другими патологиями. Это шаг к созданию действительно безопасных и интерпретируемых клинических помощников.
Источник: arXiv cs.AI ↗