Современные системы искусственного интеллекта (ИИ) уже играют важную роль в медицинской диагностике, однако их чрезмерная уверенность может приводить к ошибкам. Группа исследователей из Массачусетского технологического института (MIT) предлагает новый подход, который делает ИИ более «скромным» и способен предупреждать врачей о своей неуверенности в диагнозе.
01Переход от Оракула к Копилоту
Сегодня ИИ часто рассматривается как своего рода Оракул, который дает ответы на медицинские вопросы. Но исследователи предлагают новую модель использования ИИ — как Копилота. Это аналогично тому, как в сложной ситуации опытный пилот может попросить совета у коллеги. Так и ИИ-системы должны уметь сигнализировать о своей неуверенности и предлагать врачам собрать дополнительные данные для более точного диагноза.
02Внедрение человеческих ценностей в ИИ
Одна из ключевых проблем современных ИИ-систем заключается в том, что они могут быть чрезмерно уверенными в своих рекомендациях, что может привести к ошибкам. Исследования показывают, что врачи в реанимации склонны доверять рекомендациям ИИ, даже если они идут вразрез с интуицией врача. Это происходит, когда ИИ воспринимается как авторитетный источник.
Чтобы избежать подобных ошибок, команда MIT разработала фреймворк, который позволяет внедрять в ИИ элементы скромности и сотрудничества. Одним из таких элементов является Эпистемическая оценка добродетели (Epistemic Virtue Score), которая помогает системе оценивать свою уверенность в диагностических предсказаниях.
Как работает Эпистемическая оценка добродетели
Данный модуль позволяет ИИ оценивать свою уверенность в диагнозе. Если система обнаруживает, что её уверенность не соответствует имеющимся данным, она может приостановить процесс и предложить провести дополнительные тесты или обратиться к специалисту. Это делает ИИ не только источником ответов, но и инструментом, который указывает на необходимость осторожного подхода к полученным данным.
03Пути к инклюзивному ИИ
Еще одной важной задачей, которую ставят перед собой исследователи, является создание ИИ-систем, учитывающих разнообразные точки зрения. Многие существующие модели обучаются на данных, собранных в США, что может привести к определенным предвзятостям в медицинских рекомендациях. Для преодоления этих проблем необходимо учитывать больше точек зрения и контекстов.
Кроме того, данные, используемые для обучения ИИ, часто не включают в себя пациентов из удаленных регионов или тех, кто не имеет доступа к современным медицинским услугам. Это также создает искажение в моделях.
Работа над улучшением данных
В MIT проходят воркшопы, где специалисты по данным, врачи и социальные ученые совместно работают над проектированием новых ИИ-систем. Они анализируют, насколько полны используемые данные, и стараются предотвратить возможные искажения.
Эта работа финансируется через проект Boston-Korea Innovative Research Project и представляет собой часть более широкой инициативы по созданию ИИ, который будет полезен для всех заинтересованных сторон.