Масштаб проблемы: 64% уязвимых приложений
Команда исследователей из Университета Уэйк Форест (Wake Forest University) провела первое масштабное эмпирическое исследование утечек учетных данных LLM API в экосистеме iOS. В ходе анализа 444 приложений, отобранных из более чем 1000 кандидатов, было выявлено, что 282 приложения (64%) содержат эксплуатируемые уязвимости. Это означает, что злоумышленники могут перехватывать ключи доступа к нейросетям, что приводит к несанкционированному использованию ресурсов и финансовым потерям для разработчиков.
Методология: LLMKeyLens без взлома устройств
В отличие от предыдущих исследований Android, где можно было декомпилировать APK-файлы, iOS-приложения защищены DRM FairPlay. Для обхода этого ограничения команда разработала фреймворк LLMKeyLens. Он использует динамический анализ трафика (MITM-прокси) для перехвата HTTPS-запросов во время работы приложения на физическом устройстве. Фреймворк автоматически извлекает кандидаты на ключи и проверяет их валидность у провайдеров, не требуя jailbreak или расшифровки бинарных файлов.
Три главных паттерна утечки
Исследование классифицировало способы утечки ключей на три основные категории. Самым распространенным методом стала передача токенов JWT, за которым следуют незащищенные бэкенд-прокси и передача ключей в открытом виде.
| Паттерн утечки | Доля уязвимых приложений | Суть уязвимости |
|---|---|---|
| JWT-токены | 48% | Перехват JSON Web Tokens, используемых для аутентификации запросов к LLM. |
| Неаутентифицированные прокси | 33% | Прямой доступ к бэкенд-серверам без проверки прав, действующий как открытая дверь. |
| Плейнтекст ключи | 19% | Передача API-ключей в виде обычного текста в сетевых запросах. |
Игнорирование исправлений: 72% уязвимостей остались
Самый тревожный вывод касается реакции разработчиков. После ответственного раскрытия информации (responsible disclosure) исследователи повторно проверили те же 282 приложения через три месяца. Оказалось, что исправление получило лишь 28% разработчиков. Остальные 72% приложений сохранили уязвимости, в основном из-за отсутствия защиты на бэкенде и ошибок в реализации JWT.
Почему это важно
Утечка ключей API LLM — это не только риск для конфиденциальности пользователей, но и прямая угроза бизнесу. Злоумышленники могут использовать чужие ключи для генерации контента, что ложится финансовым бременем на владельца приложения. При 17 миллиардах загрузок приложений с ИИ (по данным Sensor Tower на 2025 год) масштаб потенциального ущерба становится системным. Исследование подчеркивает необходимость не только обучения разработчиков, но и внедрения механизмов принудительной безопасности на уровне платформ.
Источник: Arxiv ↗