Проблема «черного ящика» в AI-агентах
По мере того как компании внедряют автономных AI-агентов, возникает критическая проблема безопасности: эти агенты часто подключаются к сторонним сервисам, API и плагинам для выполнения задач. Разработчики и ИТ-отделы теряют контроль над тем, к каким данным получают доступ эти «навыки» (skills) и надстройки (add-ons). AIR позиционирует себя как решение этой проблемы, выступая в роли независимого аудитора безопасности для экосистемы AI-агентов.
Как работает платформа AIR
Платформа AIR решает задачу видимости и контроля через три ключевых этапа:
- Обнаружение (Discovery): AIR сканирует корпоративную среду, чтобы выявить все активные AI-агенты и их конфигурации.
- Непрерывный аудит (Continuous Vetting): Система анализирует каждый используемый навык или плагин, проверяя его на наличие уязвимостей, подозрительных запросов к данным или нецелевого использования.
- Блокировка (Blocking): При обнаружении нежелательного поведения или рисков платформа автоматически блокирует доступ агента к опасным ресурсам, предотвращая инциденты до их наступления.
Финансирование и масштабирование
Привлеченные $50 млн позволят AIR масштабировать свои технологии анализа поведения агентов и расширить интеграцию с крупными корпоративными системами. В условиях роста числа кибератак, использующих социальную инженерию через AI-инструменты, такой инструмент становится критически важным для соблюдения стандартов корпоративной безопасности и соответствия регуляторным требованиям.
Почему это важно сейчас
Рынок AI-агентов переходит от экспериментальной фазы к промышленному внедрению. Без инструментов вроде AIR компании рискуют столкнуться с ситуациями, когда агенты, созданные для оптимизации процессов, случайно или намеренно (через скомпрометированные плагины) получают доступ к конфиденциальной информации. AIR закрывает брешь в безопасности, которая возникает на стыке автономного ИИ и стороннего программного обеспечения.
Источник: TechCrunch ↗