Проблема «изнасилования» знаний
В мире биомедицинских LLM доминирует парадигма дофайн-тюнинга (fine-tuning) базовых моделей. Это экономически выгодно, но создает скрытую угрозу: модель начинает «знать» слишком много, чтобы правильно сказать «не знаю». Авторы исследования, опубликованного на arXiv (5 ноября 2026 года), провели первый крупный аудит, сфокусированный не на этических отказах (value-centric refusal), а на отказе от ответа из-за недостатка знаний (knowledge-centric abstention). В медицине это критически важно: галлюцинация на основе уверенности может стоить жизни.
Методология: 25 пар «До и После»
Команда исследователей (Stephen Peng, Vineet Jagadeesan Nair и др.) использовала два специализированных бенчмарка: MedAbstain и ClinDet-Bench. Они протестировали 25 дофайн-тюнингованных биомедицинских моделей, сравнивая их результаты с их исходными базовыми чекпоинтами. Это позволило изолировать эффект именно дообучения, а не архитектуры модели.
Ключевые цифры: падение осторожности
Результаты показали однозначную тенденцию к эрозии защитных механизмов. Базовые модели и так были осторожны, но после дообучения они стали еще более «болтливыми» в зонах неопределенности.
| Метрика | Базовая модель (Median) | После дофайн-тюнинга (Median) | Направление изменений |
|---|---|---|---|
| Уровень корректного отказа (MedAbstain) | 8.3% | 4.2% | Снижение в 21 из 25 пар |
| Гетерогенность эффекта | Величина и направление изменений сильно варьируются в зависимости от пары модель/данные | ||
Почему это важно для индустрии
Снижение показателя с 8.3% до 4.2% кажется незначительным, но в контексте безопасности пациентов это означает, что модель в два раза чаще генерирует ответ, когда должна промолчать. Исследование подчеркивает необходимость разработки новых методов дофайн-тюнинга, которые не просто повышают точность ответов, но и сохраняют или усиливают способность модели распознавать границы своей компетенции. Без этого биомедицинские AI-ассистенты рискуют стать источником опасных галлюцинаций.
Источник: arXiv cs.CL ↗