OpenAI разоблачила схему: как ИИ помогает мошенникам маскироваться под легитимные компании

Суть угрозы: ИИ как инструмент легитимизации мошенничества

OpenAI представила данные о новой схеме киберпреступности, которую они назвали "false front" operations (операции с ложным фасадом). Мошенники используют генеративный ИИ не для создания вредоносного кода, а для массового производства высококачественного контента, имитирующего деятельность легитимных технологических компаний. Это позволяет обманывать жертв, которые верят в существование реального бизнеса.

Методология атаки: от домена до документов

Исследователи OpenAI выявили, что злоумышленники применяют ИИ на всех этапах создания «фейкового» бизнеса:

• Генерация контента: Создание профессиональных веб-сайтов, пресс-релизов и описаний продуктов, которые невозможно отличить от реальных стартапов.
• Социальная инженерия: Использование ИИ для написания убедительных писем и переписки в мессенджерах, имитирующих общение с реальными сотрудниками.
• Маскировка следов: Автоматизация процессов регистрации доменов и создания юридических документов, что затрудняет отслеживание источника мошенничества.

Почему это важно для бизнеса и пользователей

Главная опасность заключается в том, что традиционные методы проверки надежности компании (анализ сайта, наличие контактов, структура домена) перестают быть эффективными. ИИ позволяет создавать «идеальный» цифровой фасад за считанные часы и с минимальными затратами. Это повышает риски:

• Для инвесторов: вложения в фиктивные проекты.
• Для клиентов: передача данных или оплата услуг несуществующих компаний.
• Для партнеров: заключение контрактов с «призрачными» организациями.

Рекомендации OpenAI по защите

В отчете подчеркивается необходимость перехода от автоматизированной проверки к глубокому анализу. OpenAI рекомендует:

1. Проверять репутацию через независимые источники, а не только через сайт компании.
2. Использовать инструменты для выявления сгенерированного ИИ контента.
3. Проводить верификацию контактов через прямые каналы связи (телефонные звонки, личные встречи).

Заключение

Инцидент демонстрирует эскалацию использования ИИ в киберпреступности. Если ранее ИИ ассоциировался в основном с созданием фишинговых писем, то теперь он становится инструментом для построения сложных, многоуровневых мошеннических схем. OpenAI призывает сообщества и регуляторов разработать новые стандарты верификации цифровых идентичностей.

Источник: OpenAI ↗