Искусственный интеллект уже стал неотъемлемой частью современного здравоохранения, предоставляя врачам мощные инструменты для диагностики и лечения. Однако с развитием технологий возникают и новые вызовы: как убедиться, что ИИ-системы не заменяют врачей, а помогают им?
01Проблемы избыточной уверенности
Как показали исследования, проведенные под руководством MIT, многие современные ИИ-системы могут проявлять чрезмерную уверенность в своих предсказаниях. Это может привести к ошибочным решениям, когда врачи склонны полагаться на рекомендации ИИ, даже если они не соответствуют их интуиции. 
В медицине, где на кону стоят жизни пациентов, подобные ошибки недопустимы.
Роль «скромного» ИИ
Исследователи MIT предлагают разработку «скромных» ИИ-систем, которые будут открыты и честны относительно своих ограничений. Такие системы должны сигнализировать врачам, когда они не уверены в своих рекомендациях, и побуждать к сбору дополнительной информации или привлечению других специалистов.
02Создание ИИ-систем партнеров
Переход от «всезнающего» ИИ к системе, работающей в партнерстве с человеком, требует значительных изменений в подходе к разработке ИИ. Вместо того чтобы быть «оракулом», ИИ может стать «советчиком» или «ко-пилотом», как отметил Лео Энтони Чели, старший научный сотрудник MIT. Это позволит не только получать информацию, но и будет способствовать более осмысленному принятию решений.
Фреймворк для скромного ИИ
Для достижения этой цели команда MIT разработала фреймворк, включающий несколько модулей для интеграции в существующие ИИ-системы. Одним из ключевых элементов является Эпистемический Виртуальный Балл (Epistemic Virtue Score), который оценивает уверенность системы в своих предсказаниях и сигнализирует, когда требуется осторожность.
03Включение человеческих ценностей
Одной из главных целей разработчиков является интеграция человеческих ценностей в работу ИИ. Для этого необходимо, чтобы системы были более инклюзивными и учитывали разнообразие данных. Чели подчеркивает, что каждый участник международного консорциума вносит уникальный взгляд, что позволяет преодолевать потенциальные предвзятости в данных. 
Важной частью работы является обеспечение того, чтобы данные, используемые для обучения ИИ, действительно отражали разнообразие пациентов. Это особенно важно в свете того, что многие существующие системы обучаются на электронных медицинских записях, не предназначенных изначально для таких целей.
04Будущее скромного ИИ в медицине
Разработка «скромного» ИИ — это лишь часть более масштабных усилий по созданию систем, которые учитывают и уважают мнение тех, на кого они влияют. Это требует не только технологических улучшений, но и изменения подхода к дизайну и внедрению ИИ. Нельзя останавливать развитие технологий, но необходимо осознанно подходить к их использованию.
Таким образом, создание «скромных» ИИ-систем может стать ключом к более безопасному и эффективному здравоохранению, где человек и машина работают в гармонии, дополняя друг друга. Это, в свою очередь, может привести к улучшению качества медицинской помощи и повышению доверия к технологиям.