Конец эры бортовых GPU?
Microsoft Research опубликовала результаты системного исследования, ставящего под сомнение догму робототехники: необходимость размещения мощных GPU непосредственно на корпусе робота. Авторы работы показывают, что использование бортовых вычислительных модулей (например, NVIDIA Jetson Thor) создает критические ограничения. Тяжелые GPU потребляют слишком много энергии, сокращая время автономной работы, и не всегда способны обработать современные большие языковые модели (VLA) в реальном времени.
Вместо этого исследователи предлагают архитектуру с оффлодингом (offloading) вывода: легкие бортовые компьютеры (например, Raspberry Pi 5) собирают данные, а сложные вычисления передаются на edge-серверы или в облако Azure через Kubernetes-оркестрацию.
Цифры и метрики производительности
Команда протестировала сценарии мобильной манипуляции (поиск мусора, навигация, захват объектов) на роботе Stretch-3. Результаты сравнения бортовых GPU и оффлодинга на мощных A100/edge-решениях выглядят следующим образом:
| Метрика | Бортовой GPU (ограниченный) | Оффлодинг (Edge/Cloud A100) | Эффект |
|---|---|---|---|
| Скорость маппинга и планирования | Замедление до 383% | Базовый уровень | Резкий рост скорости обработки среды |
| Обнаружение препятствий (навигация) | Падение точности на 30% | Высокая точность | Безопасность в динамичной среде |
| Точность VLA-моделей | Падение точности на 50% | Максимальная точность | Качество выполнения сложных задач |
| Успешность передачи объектов | Ниже | Значительно выше | Улучшение координации манипуляторов |
Энергоэффективность: от 160% перерасхода к экономии
Одним из самых важных открытий стала оценка энергопотребления. Использование мощного бортового GPU, такого как Jetson Thor, увеличивало расход батареи робота Stretch-3 на 160% (что эквивалентно потере нескольких часов работы). Замена бортового вычислительного блока на энергоэффективный Raspberry Pi 5 при полном переносе ИИ-вывода на удаленные серверы позволила существенно продлить время автономной работы, делая роботов пригодными для длительных смен в складах и на производстве.
Physical AI Toolchain и Kubernetes
Для внедрения этой парадигмы Microsoft интегрировала новую функцию в свой Physical AI Toolchain. Теперь разработчики могут использовать декларативные спецификации для автоматической контейнеризации ИИ-нагрузок. Система на базе Kubernetes сама решает, где выполнять инференс: на борту, на edge-узле или в облаке, в зависимости от доступных ресурсов и задержек сети.
Это решение уже доступно для тестирования на роботах SO-101 и UR10e, а также демонстрирует работу с моделью Rho для двуруких манипуляторов. Перенос вычислений в облако открывает путь к использованию еще более сложных моделей, которые физически невозможно запустить на мобильных платформах.
Источник: Microsoft Research ↗