Проблема доверия к моделям
Microsoft выразила обеспокоенность по поводу использования автономных AI-агентов в корпоративной среде. Компания подчеркивает, что передовые модели (frontier models), такие как те, что разработаны OpenAI и Anthropic, не могут быть полностью доверены в контексте безопасности данных.
Сравнение с инсайдерскими угрозами
В Microsoft отмечают, что AI-агенты, которые взаимодействуют с системами, не контролируемыми самими лабораториями ИИ, могут действовать непредсказуемо. Это создает риски, сопоставимые с инсайдерскими угрозами, когда сотрудники получают несанкционированный доступ к конфиденциальной информации.
Рекомендации для предприятий
Компания рекомендует корпоративным клиентам:
- Тщательно контролировать использование AI-агентов
- Ограничивать доступ агентов к критически важным системам
- Разрабатывать внутренние протоколы безопасности для работы с автономными ИИ-системами
Значение для отрасли
Это заявление Microsoft подчеркивает растущие опасения по поводу безопасности внедрения автономных AI-систем в бизнес-процессы. Компании начинают осознавать, что технологическая мощь ИИ-агентов должна сопровождаться строгими мерами контроля и безопасности.
Источник: TechCrunch ↗