Проблема: Модели как источник утечек
Клинические фундаментальные модели (Clinical Foundation Models), обученные на массивах медицинских данных, всё чаще используются для поддержки принятия врачебных решений и скрининга. Однако их широкое внедрение породило серьезную проблему: модель-опосредованную утечку конфиденциальной информации. Исследователи подчеркивают, что существующие меры контроля доступа к данным не защищают от ситуаций, когда сама модель раскрывает чувствительные артефакты обучения, позволяя злоумышленникам идентифицировать пациентов.
Ключевые выводы исследования
Команда авторов, включая Сану Тонекабони и Марзех Гхасеми, провела анализ рисков, показавший, что правовые рамки, такие как HIPAA и GDPR, предлагают лишь ограниченное руководство по защите от таких косвенных угроз. Они разработали практический фреймворк для оценки рисков, основанный на реалистичных сценариях использования моделей.
Сравнение правовых и технических подходов
Авторы сопоставили существующие регуляторные ограничения с необходимыми техническими мерами защиты. Ниже приведена сводная таблица различий в подходах к защите данных:
| Аспект | Традиционный подход (HIPAA/GDPR) | Новый фреймворк (для Foundation Models) |
|---|---|---|
| Объект защиты | Хранимые базы данных пациентов | Поведение обученной модели (артефакты) |
| Тип угрозыtd> | Прямой доступ к файлам | Инференс-атаки и извлечение данных |
| Метод защиты | Шифрование, контроль доступа | Технические mitigations + контекстная оценка рисков |
| Результат | Защита от внешних хакеров | Защита от деанонимизации через ответы модели |
Почему это важно
Предложенный контекстно-зависимый фреймворк позволяет сохранить ценность медицинских ИИ-моделей, не жертвуя приватностью. Исследование показывает, что для безопасного развертывания систем поддержки принятия решений необходимо внедрять не только юридические, но и специфические технические механизмы защиты, учитывающие специфику работы с большими языковыми и мультимодальными моделями в медицине.
Источник: arXiv cs.AI ↗