Проблема: LLM «выдумывают» диагнозы
Большие языковые модели (LLM) демонстрируют высокие результаты на медицинских бенчмарках, но их главная уязвимость — reliance на паттерны обучения, а не на клинические доказательства. Это приводит к генерации правдоподобных, но не подтвержденных фактами заключений. Врачи не могут доверять системе, если не видят логику: почему поставлен именно этот диагноз и какие симптомы на него указывают.
Решение: Онтология как «скелет» рассуждений
Команда авторов (Roxana Ramona Szomiu, George Ursu, Adrian Groza) предложила архитектуру, где LLM не работают в вакууме. Они интегрировали систему с структурированной, экспертно курируемой медицинской онтологией. Это позволяет:
- Интерпретировать симптомы и связи между заболеваниями строго в рамках доказанной медицины.
- Декомпозировать процесс диагностики на явные, аудируемые шаги.
- Снизить риск галлюцинаций, ограничивая выводы только теми ассоциациями, которые подтверждены онтологией.
Как это работает: Имитация врача
Система не просто выдает ответ, а имитирует итеративный процесс клинического мышления. Она анализирует текущие данные, определяет наиболее дискриминативные недостающие симптомы и генерирует целевые уточняющие вопросы. Это снижает неопределенность аналогично тому, как врач задает вопросы пациенту для сужения круга возможных диагнозов.
Ключевые метрики и доступность
Фреймворк повышает надежность, объяснимость и точность дифференциальной диагностики. Исследователи уже опубликовали исходный код, что позволяет сообществу протестировать подход на своих данных. Это важный шаг от «черного ящика» к инструменту, с которым врач может работать в тандеме, проверяя каждый шаг ИИ.
Источник: arXiv cs.AI ↗