Проблема: как доказать, что модель «видела» ваши данные?
Аудит безопасности языковых моделей (LLM) часто сталкивается с задачей user inference — определением того, были ли документы конкретного источника включены в обучающую выборку. Главная сложность заключается в том, что документы сильно различаются по своей предсказуемости (baseline predictability) и степени «информационной насыщенности». Простое суммирование оценок отдельных документов приводит к искажениям: один аномально «сигнальный» документ может затмить собой весь источник или, наоборот, создать ложное подозрение.
Решение: Source-balanced Capped Fisher (SCF)
Команда авторов (Yang Liu, Ran Zou, Wanrong Zhu) предложила метод SCF, который использует известные неучаствующие источники в качестве контрольной группы. Алгоритм работает в три этапа:
- Оценка аномальности: Определяет, насколько необычна оценка каждого документа по сравнению с референсным распределением.
- Кэппинг (ограничение): Индивидуальный вклад каждого документа ограничивается, чтобы изолированные выбросы не доминировали в решении.
- Агрегация: Ограниченные доказательства усредняются внутри каждого источника, а затем преобразуются в отрицательные логарифмические доказательства (negative-log evidence).
Статистическая строгость и результаты
Метод использует правило принятия решений на основе p-value, калиброванного по независимому набору источников. Это обеспечивает контроль ошибки первого рода (Type-I error) даже при конечных выборках. Эксперименты на четырех реальных наборах данных показали, что SCF достигает наивысшего показателя AUROC среди всех протестированных методов агрегации.
| Метрика / Характеристика | Результат SCF | Значение для индустрии |
|---|---|---|
| Точность (AUROC) | Наивысшая среди аналогов | Максимальная чувствительность к утечкам данных |
| Ложноположительные срабатывания (FPR) | Близки к номинальному уровню или ниже | Снижение риска ложных обвинений в нарушении авторских прав |
| Механизм защиты | Кэппинг индивидуальных вкладов | Устойчивость к шуму и аномальным данным |
Почему это важно?
По мере ужесточения регулирования в области авторского права и конфиденциальности данных (GDPR, законы об AI), способность независимых аудиторов точно определять использование защищенных материалов становится критической. SCF предлагает не просто более точный инструмент, но и статистически обоснованный подход, который минимизирует риски ложных обвинений для разработчиков моделей.
Источник: arXiv cs.CL ↗