Проблема облачных LLM в реальном времени
Автоматизация промышленных процессов требует мгновенной реакции на изменения среды. Крупные языковые модели (LLM), работающие в облаке, часто непригодны для таких задач из-за высокой задержки (latency), непрозрачности решений и рисков утечки чувствительных данных. Ключевая задача — создать политику управления, которая генерируется из естественного языка, но выполняется локально, на edge-устройствах, с гарантией безопасности.
Архитектура: SLM + Валидатор + Мультиагентная коррекция
Команда исследователей (Yuchen Wang, Javal Vyas, Tong Liu, Mehmet Mercangoz) предложила гибридный подход. В основе лежит компактная модель Qwen2.5-1.5B, дообученная методом Group Relative Policy Optimization (GRPO) для задач контрольного вывода. Система состоит из трех ключевых компонентов:
- Action Agent: Генерирует кандидаты действий на основе текстовых инструкций.
- Validator (Digital Twin): Символический слой или цифровой двойник, проверяющий физическую корректность действий до их исполнения.
- Reprompting Agent: Если валидатор отклоняет действие, этот агент переформулирует запрос, направляя SLM к корректному решению в цикле обратной связи.
Результаты тестирования: Точность и скорость
Эксперименты проводились в симуляциях термического контроля. Были запущены 30 независимых экспериментов, каждый из которых состоял из 500 шагов. Результаты показали высокую надежность даже при использовании модели малого размера:
| Метрика | Значение | Примечание |
|---|---|---|
| Средняя задержка инференса | 3.84 с | Критично для реального времени |
| Точность согласования действий | 91.5% | Диапазон: 86.3% -- 100% |
| Доля действий в допустимом диапазоне | 95% | При символическом перемаппинге |
Почему это важно для индустрии
Результаты подтверждают, что архитектура SLM + Validator является жизнеспособным путем к перенастраиваемому автономному управлению на периферии. Даже если токеновый уровень согласования снижается, система сохраняет физическую регуляцию благодаря валидатору. Это позволяет отказаться от тяжелых облачных моделей в пользу легких, безопасных и быстрых решений, способных адаптироваться к новым требованиям через текстовые инструкции без ручной перенастройки кода.
Работа принята к публикации в IEEE CCTA 2026 (Conference on Control Technology and Applications).
Источник: arXiv cs.AI ↗