Проблема «слепых» облачных агентов
Традиционные облачные агенты, использующие большие языковые модели (LLM), демонстрируют высокую точность, но требуют передачи приватных данных пользователя на сервер. Альтернатива — запуск малых моделей (SLM) на edge-устройствах — сохраняет конфиденциальность, но дает значительно худшие результаты. Третий подход, где облако пишет код, а устройство его исполняет, часто терпит неудачу, так как не может интерпретировать данные, появляющиеся только во время выполнения (runtime).
Решение: SLM как интерпретаторы
Авторы работы (Boris Radovič, Marco Canini, Veljko Pejović) предложили промежуточную архитектуру. В ней облачная модель генерирует программу, но делегирует ограниченные вопросы по данным пользователя локальной SLM через обычные вызовы функций. Это позволяет сохранить данные на устройстве, получив при этом доступ к интеллекту больших моделей.
Результаты на бенчмарке AppWorld
Эксперименты проводились на датасете AppWorld. Ключевой вывод: добавление локального интерпретатора в код-агентов (code-only agent) стабильно улучшало метрики во всех протестированных конфигурациях. Прирост успешности (success rate) составил до 14.9 процентных пунктов, что позволяет существенно сократить разрыв с облачными ReAct-агентами.
| Параметр | Значение / Описание |
|---|---|
| Архитектура | Облако пишет код + Локальная SLM интерпретирует данные |
| Бенчмарк | AppWorld |
| Максимальный прирост точности | +14.9 pp (процентных пунктов) |
| Конфиденциальность | Данные остаются на устройстве (edge) |
| Сравнение с базой | Превосходит чистые code-only агенты, приближаясь к ReAct |
Значение для индустрии
Работа, принятая на воркшоп SLM-Agents в рамках NeurIPS 2026, доказывает жизнеспособность гибридных систем. Это открывает путь к созданию масштабируемых AI-агентов, которые не жертвуют приватностью ради функциональности, решая проблему «незнания» предписанного кода о динамических данных пользователя.
Источник: arXiv cs.AI ↗