Внедрение больших языковых моделей (LLM) в радиологию часто упирается в требования к инфраструктуре: либо проприетарные облачные решения, нарушающие конфиденциальность данных, либо мощные GPU, недоступные в большинстве клиник. Команда исследователей под руководством Шриша Шринаата Вайдьи (Shrish Shrinath Vaidya) предложила решение — MedPAO-Assist. Это агентная система, способная генерировать структурированные отчеты на основе голосовых команд радиолога, работая исключительно на CPU стандартного ноутбука.
Технические характеристики и производительность
Ключевое отличие MedPAO-Assist — экстремальная оптимизация для edge-устройств. Система использует Small Language Model (SLM) с объемом параметров всего 0.6B. Архитектура построена по принципу Extract-Ground-Generate: извлечение концептов, их привязка к онтологии SNOMED-CT и генерация отчета. При этом пиковое потребление оперативной памяти составляет около 3.3 ГБ, а средняя задержка от диктовки до готового отчета — 31 секунда.
Система поддерживает четыре основных модальности визуализации, что делает её универсальным инструментом для отделения лучевой диагностики:
| Модальность | Поддержка в MedPAO-Assist | Особенности обработки |
|---|---|---|
| Chest X-ray (Рентген грудной клетки) | Да | Экстракция анатомических структур |
| Chest CT (КТ грудной клетки) | Да | Анализ плотностей и объемов |
| Abdomen CT (КТ брюшной полости) | Да | Сегментация органов |
| Brain MRI (МРТ головного мозга) | Да | Детализация нейроанатомии |
Полностью автономный workflow
MedPAO-Assist реализует концепцию «no-touch» (без касаний клавиатуры). Радиолог диктует наблюдения, система асинхронно и многопоточно обрабатывает аудио, выполняет семантическое связывание с медицинскими стандартами (SNOMED-CT) и формирует итоговый документ. Финальный этап включает коррекцию человеком, но без необходимости ручного ввода текста. Система не требует подключения к интернету или вызова внешних API, что критически важно для соблюдения HIPAA и GDPR.
Значение для отрасли
Работа принята на MICCAI Workshop Agentic AI for Medicine, 2026. Авторы отмечают, что MedPAO-Assist является одним из первых примеров агентной системы, выполняющей весь пайплайн на SLM-модели. Это снимает барьер для внедрения ИИ в клиники с ограниченным бюджетом на IT-инфраструктуру, позволяя использовать существующие рабочие станции врачей без апгрейда до серверных GPU.
Источник: arXiv cs.AI ↗