Проблема: DevSecOps не справляется с автономией
Корпорации внедряют автономных AI-агентов быстрее, чем могут их контролировать. Традиционные подходы, основанные на DevSecOps для детерминированной автоматизации, ломаются при работе с неопределенностью агентов. Авторы статьи из arXiv (2608.10153) утверждают, что управление AI-агентами — это не одна задача, а четыре, требующие разных научных баз.
Решение: Четыре слоя CASE Framework
Методология CASE (Control, Adaptive, Supervisory, Engineering) распределяет ответственность по уровням:
- Control (Теория управления): Для отдельных агентов. Намерение агента — это заданное значение (setpoint), ограничения — обратная связь, а оценка — наблюдение.
- Adaptive (Адаптивные системы): Для коллективов агентов. Здесь возникает эмерджентность (непредсказуемое поведение системы), которую нельзя свести к гарантиям одного агента.
- Supervisory (Супервизорная кибернетика): Для команд «человек-агент». Закон необходимого разнообразия доказывает: без помощи ИИ человек структурно не способен эффективно контролировать сложные системы.
- Engineering (Инженерные операции): Для флотов агентов. Бюджеты ошибок расширяются до «бюджетов качества решений», делая автономию контролируемой переменной.
Эмпирические данные: Разрыв в зрелости
Авторы провели три исследования, выявив критические проблемы на рынке. Главный вывод — так называемый Emergence Gap (Разрыв эмерджентности): риски реализуются на уровне коллективного поведения, тогда как инструменты предлагают лишь базовые функции.
| Метрика | Результат исследования | Значение |
|---|---|---|
| Природа сбоев | 82% инцидентов в продакшене | Являются многоуровневыми траекториями, а не ошибками одного агента |
| Покрытие инструментов | 0 из 22 экосистемных инструментов | Не обеспечивают полного покрытия Layer 2 (эмерджентность) |
| Зрелость деплоев | 100% (35 из 35) | Публичные развертывания находятся в самой низкой полосе зрелости |
Парадокс нулевого касания и EU AI Act
Исследование выявило «парадокс zero-touch deployment»: высочайшая эффективность на одном слое CASE может создать напряжение в других. Для соответствия требованиям EU AI Act (Статья 14) о реальном, а не церемониальном человеческом надзоре, необходимы архитектуры, удовлетворяющие закону необходимого разнообразия. Предложенная пятиуровневая модель зрелости использует некомпенсируемый индекс, где слабый слой не может быть компенсирован сильным в других областях.
Источник: arXiv cs.AI ↗