Проблема приватности в финансовых LLM
Использование реальных разговоров клиентов для обучения финансовых языковых моделей (LLM) сопряжено с серьезными рисками конфиденциальности. Даже после маскировки прямых идентификаторов (PII) в тексте могут оставаться неопубликованные финансовые факты, которые модель может воспроизвести. Синтетические транскрипты предлагают альтернативу, но требуют строгой оценки на соответствие дискурсу и отсутствие утечек.
Как работает DiRAFT
Новый метод DiRAFT (Discourse Realization from Aggregate First-order Transitions) отказывается от прямого копирования фрагментов. Вместо этого он:
- Извлекает графы финансовых концептов из обучающих записей.
- Фиксирует порядок первого упоминания каждого концепта.
- Агрегирует переходы между соседними концептами по всему набору данных.
- Генерирует новые планы графов, используя стохастическую выборку из априорных распределений переходов, стартовых концептов и длины плана.
Слой дискурса затем реализует текст на основе этих планов, не обращаясь к исходным passages или графам конкретных источников.
Результаты оценки безопасности
Исследователи провели две серии проверок: структурное совпадение на уровне корпуса и проверку на наличие конкретных неопубликованных фактов об инвесторах. В последней участвовало 1 400 сгенерированных звонков, оцененных людьми. Методы сравнивались по трем стратегиям выборки: жадная (greedy), top-3 и стохастическая.
| Метрика / Стратегия | Greedy (Жадная) | Top-3 | Stochastic (Стохастическая) |
|---|---|---|---|
| Структурное совпадение | Высокое | Среднее | Оптимальный баланс |
| Утечка конфиденциальных фактов | Наибольшее число совпадений | Среднее число совпадений | Наименьшее число совпадений |
| Разнообразие траекторий | Низкое | Среднее | Высокое |
Почему это важно
Стохастическая выборка в DiRAFT демонстрирует явное преимущество перед жадными методами как в сохранении верности дискурсу, так и в снижении риска утечки данных. Это предоставляет эмпирические доказательства безопасности без формальных гарантий, что критически важно для внедрения LLM в регулируемой финансовой сфере. Работа принята к публикации на воркшопе Financial AI Security, Privacy and Safety Workshop at ICAIF 2026.
Источник: arXiv cs.AI ↗