Атака на уровне кода: как это произошло
16 июля Hugging Face опубликовала официальное уведомление о нарушении безопасности. Инцидент начался с загрузки вредоносного датасета в конвейер обработки данных. Атакующий использовал две уязвимости для выполнения произвольного кода:
- Загрузчик датасетов с удаленным выполнением кода (RCE).
- Инъекция шаблонов в конфигурации датасетов.
Это позволило злоумышленнику повысить привилегии до уровня узла, проникнуть в производственный конвейер, перемещаться по сети и украсть облачные и кластерные учетные данные. Всего зафиксировано более 17 000 событий, связанных с этой автоматизированной атакой.
AI против AI: скорость и масштаб
Ключевая особенность инцидента — использование неизвестного agentic AI (автономного ИИ-агента). В отличие от традиционных хакеров, этот агент выполнял тысячи действий в рое короткоживущих песочниц, самостоятельно мигрируя между серверами. Hugging Face отметила, что это соответствует сценарию «агентного атакующего», который ранее считался теоретическим.
Парадоксально, но именно ИИ спас ситуацию. Внутренние LLM-инструменты Hugging Face обнаружили вторжение, проанализировали логи атаки и восстановили хронологию событий. То, что обычно занимало бы дни, было сделано за несколько часов.
Что было украдено и что под угрозой
На данный момент подтверждено компрометирование внутренних датасетов и учетных данных сервисов. Прямых доказательств компрометации публичных моделей, пользовательских пространств (Spaces) или цепочки поставок ПО не обнаружено. Однако компания продолжает расследование, чтобы определить, затронуты ли данные партнеров или клиентов.
Рекомендации для пользователей
До завершения расследования Hugging Face настоятельно рекомендует пользователям предпринять следующие меры предосторожности:
- Срочно сменить токены доступа (access tokens) в аккаунтах.
- Внимательно следить за аккаунтами на предмет подозрительной активности.
- В случае выявления нарушений связаться с отделом безопасности по адресу
security@huggingface.co.
Будущее кибербезопасности
Инцидент подчеркивает новый тренд: автономное наступательное ИИ-инструментарий снижает стоимость и время проведения сложных многоэтапных кампаний. Hugging Face уже исправила уязвимость, удалила следы атакующего, перестроила скомпрометированные узлы и внедрила более строгие правила приема в кластеры. Это первый шаг к эре, где защита от ИИ-атак возможна только с помощью ИИ-защиты.
Источник: ZDNet AI ↗