Проблема распределенных вычислений
В современных гетерогенных инфраструктурах мобильной периферии (Mobile Edge Computing) потоковая обработка данных сталкивается с волатильностью нагрузки и конкуренцией за ресурсы. Традиционные детерминированные алгоритмы планирования часто не справляются с неопределенностью контекста, что приводит к нарушению требований к качеству обслуживания (QoS). Авторы работы Sabeur Lajili и Zaki Brahmi предлагают решение MAS-DecStream, которое интегрирует большие языковые модели (LLM) в классический протокол контрактов (Contract Net Protocol, CNP).
Архитектура LLM-MR-CNP
Ключевым нововведением является расширение CNP до LLM-MR-CNP. В этой системе агенты на edge-кластерах не просто обмениваются жесткими метриками, но и формируют предложения на естественном языке. LLM-агенты анализируют локальные наблюдения, прогнозы состояния ресурсов и качественный контекст выполнения, после чего проводят многоэтапные переговоры. При этом жесткие ограничения по ресурсам и QoS остаются детерминированными и проверяемыми, что исключает галлюцинации моделей в критических узлах системы.
Результаты бенчмарков
Эксперименты проводились на наборе данных Alibaba ASI Trace. Сравнение показало, что внедрение LLM-ассистированной многоэтапной рефлексии дает значимый прирост эффективности по сравнению с rule-based (правило-ориентированными) подходами. Ниже приведены ключевые метрики производительности системы при работе с 20 агентами:
| Метрика | Значение / Эффект | Примечание |
|---|---|---|
| Нарушения задержки (Latency Violations) | 3% | Критическое снижение срывов SLA |
| Перераспределение ресурсов (Overcommitment) | 0% | Полное устранение конфликтов |
| Коэффициент разрешения конфликтов | 0.91 | При масштабе в 20 агентов |
| Рост полезности (Utility) | +22% | По сравнению с многоэтапным rule-based базовым уровнем |
Компромисс точности и стоимости
Отдельная оценка из 25 кейсов показала, что выбор модели и промпта напрямую влияет на соотношение точности и стоимости запросов. Авторы отмечают, что главный протокольный выигрыш дает именно многоэтапная рефлексия (multi-round refinement), а LLM-ассистирование добавляет ценность преимущественно в ситуациях с качественной или неопределенной информацией о runtime-контексте. Это открывает путь к созданию более адаптивных систем распределенного ИИ, где нейросети берут на себя когнитивную нагрузку переговоров, а детерминированные ядра — контроль ресурсов.
Источник: arXiv cs.AI ↗