Команда исследователей из MIT работает над созданием искусственного интеллекта (ИИ), который поможет врачам в диагностике, проявляя больше скромности и осознанности. Новый подход направлен на то, чтобы ИИ не только давал точные рекомендации, но и признавал ситуации, в которых он не уверен, призывая к дополнительным исследованиям.
Переосмысление роли ИИ в медицине
Старший научный сотрудник MIT Лео Энтони Чели утверждает, что ИИ может стать не только оракулом, но и настоящим напарником для врачей. Вместо того чтобы полагаться на системы, которые могут чрезмерно уверенно давать неправильные рекомендации, исследователи предлагают создать ИИ, который будет работать в тандеме с врачами, признавая собственные ограничения.
Инновационная структура для ИИ
Команда разработала структуру, включающую несколько модулей, которые могут быть интегрированы в существующие системы ИИ. Один из таких модулей, разработанный Янаном Арсланом и Куртом Бенке из Университета Мельбурна, позволяет ИИ оценивать собственную уверенность в диагностических предсказаниях. Это помогает системе сигнализировать о необходимости дополнительной информации или консультации специалиста.
Включение человеческих ценностей в ИИ
Исследователи из MIT подчеркивают важность включения человеческих ценностей в разработку ИИ. Они проводят воркшопы, на которых специалисты из разных областей совместно работают над созданием более инклюзивных ИИ-систем. Это помогает избежать предвзятостей и обеспечивает более точные и справедливые рекомендации.
Работа Чели и его команды финансируется Бостонско-корейским инновационным исследовательским проектом, что подчеркивает глобальный интерес к теме инклюзивных и осознанных систем ИИ в здравоохранении.