Проблема: Непредсказуемость Agentic AI
Автономные AI-системы (Agentic AI), построенные на базе больших языковых моделей (LLM), работают не как фиксированные графы задач, а как динамические многошаговые конвейеры. Они самостоятельно вызывают инструменты, интегрируют наблюдения в память и итерируют процесс до решения задачи. В отличие от классических рабочих процессов, совокупные требования к вычислениям, пропускной способности и задержке (latency) неизвестны на этапе планирования. Они формируются во время выполнения из промежуточных наблюдений и стохастической выборки токенов, создавая тяжелохвостые, многомодальные распределения.
Это создает дилемму для оркестраторов инфраструктуры: недопроvisioning приводит к throttling и нарушению дедлайнов, а overprovisioning ведет к расточительству ресурсов на edge-устройствах или в облаке. Существующие планировщики требуют известного графика, а методы управления ресурсами на edge полагаются на стационарные модели, что не подходит для нестационарных профилей Agentic AI.
Решение: Conformal Reservation for Orchestration (CRO)
Авторы, Масуд Шохранежад и Тарик Талеб, формализовали задачу как «оркестрацию, учитывающую неопределенность» (uncertainty-aware agentic orchestration). Их цель — зарезервировать вычислительные и пропускные ресурсы на этапе отправки (dispatch time), чтобы покрыть фактические потребности конвейера с заданной вероятностью. Для этого предложен алгоритм CRO (Conformal Reservation for Orchestration).
CRO — это онлайн-алгоритм, который использует скользящее окно предыдущих трасс выполнения для формирования распределений ресурсов. Ключевая особенность метода — использование конформного прогнозирования (conformal prediction), что обеспечивает гарантии покрытия конечных выборок без предположений о распределении данных (distribution-free coverage guarantees).
Результаты и бенчмарки
Симуляции проводились на гетерогенных наборах задач с многомодальными и тяжелохвостыми профилями. CRO продемонстрировал уникальные преимущества:
- Это единственный оцененный метод, который одновременно удовлетворяет целевому вероятностному покрытию на всех уровнях риска.
- Среди методов, способных обеспечить покрытие, CRO достиг наименьшего уровня избыточного резервирования (over-reservation).
- Алгоритм примерно вдвое снижает объем растраченных ресурсов по сравнению с базовым методом, основанным на неравенстве Чебышева (Chebyshev-bound baseline).
| Метод | Вероятностное покрытие | Избыточное резервирование ресурсов | Примечание |
|---|---|---|---|
| CRO (предложенный) | Да (на всех уровнях риска) | Минимальное (базовый уровень) | Использует конформное прогнозирование |
| Chebyshev-bound baseline | Да | Высокое (в 2 раза выше, чем у CRO) | Статистическая оценка без учета распределения |
| Существующие планировщики | Не применимо | Не применимо | Требуют известного графа выполнения |
Значение для индустрии
Работа, принятая к публикации в IEEE MECOM 2026 (Марракеш, ноябрь 2026), закладывает фундамент для эффективного развертывания автономных AI-агентов. Способность точно прогнозировать и резервировать ресурсы в условиях неопределенности критически важна для снижения затрат на инфраструктуру и обеспечения надежности сервисов, где AI-агенты действуют в реальном времени.
Источник: arXiv cs.AI ↗