PrivMeSA: Как ИИ лечит пациентов, не раскрывая их личности

Проблема: приватность против точности

Развертывание клинических LLM-агентов на локальных серверах больниц позволяет защитить данные пациентов, но ограничивает доступ к самым мощным моделям. Отправка запросов в облачные (удаленные) модели создает риск утечки информации. Даже удаление явных идентификаторов (имен, дат рождения) недостаточно: кумулятивный эффект «квази-идентификаторов» в многооборотных консультациях позволяет восстановить личность пациента по базам данных.

Решение: архитектура PrivMeSA

Команда во главе с Дэнноном Вангом (Dannong Wang) разработала систему PrivMeSA (Privacy-Aware Self-Evolving Multi-Agent System). Ее ключевые особенности:

• Локально-удаленное взаимодействие: Локальный агент управляет каждым случаем и консультируется с удаленными специалистами, которые могут запросить дополнительную информацию.
• Обучение с подкреплением (RL): Алгоритм балансирует между точностью задачи и риском повторной идентификации. Приватность оценивается по полному исходящему транскрипту консультации.
• Память уроков (Lesson Memory): Завершенные консультации дистиллируются в обобщенные клинические рекомендации. Это позволяет последующим случаям использовать экспертизу без повторного обращения к удаленной модели, при этом память растет без дополнительных меток или обновления параметров.

Результаты на бенчмарке MIMIC-IV-ED

Эксперименты проводились на наборе данных отделений неотложной помощи (Emergency Department). Система продемонстрировала значительное улучшение показателей по сравнению с базовым делегированием:

Почему это важно

PrivMeSA решает фундаментальное противоречие в медицинском ИИ: возможность использовать мощные облачные модели без нарушения конфиденциальности. Механизм «самоэволюции» через локальную память снижает зависимость от внешних запросов, что делает систему не только безопасной, но и экономически эффективной для масштабирования в клинической практике.

Источник: arXiv cs.AI ↗