Проблема неконтролируемого ИИ
Предоставление всем сотрудникам компаний доступа к инструментам искусственного интеллекта создает новые, ранее не существовавшие векторы атак. Люди используют ИИ неожиданными способами, что приводит к появлению «зевков» в безопасности корпоративных систем. По мере роста популярности генеративных моделей, риски утечки данных и компрометации инфраструктуры становятся критическими.
Инвестиции в безопасность AI
Компания Pluto Security, специализирующаяся на защите от угроз, связанных с ИИ, успешно закрыла раунд финансирования в размере $42 млн. Эти средства будут направлены на разработку и масштабирование решений, которые позволяют корпоративным командам безопасности (SecOps) выявлять и блокировать аномальное поведение, вызванное использованием ИИ-инструментов.
Почему это важно
Традиционные системы защиты не всегда способны детектировать угрозы, порожденные ИИ, так как они часто маскируются под легитимную активность. Pluto Security предлагает новый подход к мониторингу, учитывающий специфику взаимодействия человека с ИИ. Это становится критически важным для предприятий, внедряющих AI-решения без должного контроля.
Ключевые метрики и детали
| Параметр | Значение |
|---|---|
| Сумма раунда | $42 млн |
| Компания | Pluto Security |
| Фокус | Защита от угроз, связанных с ИИ |
| Основная проблема | Неконтролируемое использование ИИ сотрудниками |
Вывод
Рост инвестиций в такие компании, как Pluto Security, свидетельствует о том, что индустрия кибербезопасности признает ИИ не только инструментом для улучшения защиты, но и источником новых, сложных уязвимостей. Корпорациям необходимо пересматривать свои политики безопасности в эпоху повсеместного внедрения AI.
Источник: TechCrunch ↗