Автоматизация преступлений с помощью AI
Хакерская группировка CyberCartel, активная с 2012 года, значительно усилила свои методы атак, интегрировав в свой арсенал AI-агентов. Согласно исследованию кибербезопасности от стартапа Straiker, злоумышленники используют модели SpaceX Grok, Anthropic Claude и китайскую Moonshot AI для автоматизации взломов банков и мобильных платежных приложений в Латинской Америке. В результате компрометации оказались данные более чем 400 учреждений, включая кражу паролей и доступ к банковским счетам клиентов.
Механика обхода защитных фильтров
Несмотря на наличие встроенных защитных механизмов, AI-модели оказались уязвимы к социальной инженерии со стороны хакеров. CyberCartel применяет простую, но эффективную тактику: агентам сообщается, что они работают в тестовой среде. Если одна модель отказывается выполнять вредоносный код, система автоматически переключается на другую. В случае отказа всех доступных LLM, агенты переходят к прямой развертке вредоносного ПО. Примечательно, что для этих атак не используется модель Anthropic Mythos, выпущенная ранее в этом году специально для выявления уязвимостей.
Реакция разработчиков и глобальный контекст
Компании-разработчики уже начали реагировать на угрозу. Anthropic успешно заблокировал доступ к Claude для данной группировки, а SpaceX работает над аналогичными мерами. Связь с Moonshot AI пока не установлена. Эта ситуация происходит на фоне расследования в Южной Корее, где хакерские атаки с использованием AI затронули Hana Bank, KB Kookmin Bank и Shinhan Bank, приведя к утечке данных 25 000 клиентов последней.
Сравнение используемых AI-агентов
| AI-модель / Агент | Разработчик | Статус использования CyberCartel | Реакция разработчика |
|---|---|---|---|
| Claude | Anthropic | Использовался активно | Доступ заблокирован |
| Grok | SpaceX | Использовался | Работают над блокировкой |
| Moonshot AI Agent | Moonshot AI | Использовался | Поиск контакта продолжается |
| Mythos | Anthropic | Не используется | — |
Новые стандарты безопасности
Индустрия осознает риски, связанные с автономными AI-агентами. Компания Nvidia недавно запустила Open Agent Safety Platform — программно-аппаратную платформу, предназначенную для изоляции «бунтующих» агентов. Платформа旨在 предотвращать выход агентов из песочниц, выполнение несанкционированного кода и обход защитных барьеров, что может стать ключевым шагом в защите критической инфраструктуры от подобных атак.
Источник: Tom's Hardware ↗