Новый модуль для периферийных вычислений
Компания Qt Group продолжает расширять экосистему своего фреймворка, добавляя инструменты для работы с искусственным интеллектом. После внедрения QML-профайлера для агентной разработки и интеграции AI-ассистентов в Qt Creator, разработчики анонсировали создание нового подмодуля — Qt Edge AI. Его главная цель — обеспечить кроссплатформенный инференс нейросетей непосредственно на edge-устройствах (периферии), позволяя разработчикам создавать приложения для машинного зрения без привязки к конкретному AI-рантайму.
Технические детали и архитектура
Первая версия модуля, код которой уже доступна в ревью, сфокусирована на задачах компьютерного зрения. Архитектура построена вокруг конвейера (pipeline) шагов инференса. Ключевой особенностью является интеграция с QtMultimedia: модуль принимает кадры в формате QVideoFrames и использует приватные API для доступа к буферам GstBuffer, что позволяет эффективно передавать видеопоток в конвейер обработки без лишних копирований данных.
Поддерживаемые платформы и бэкенды
Изначально поддержка ориентирована на популярные встроенные платформы. Разработчики уже реализовали плагин-бэкенд для NXP NNStreamer и подготовили пример приложения для обнаружения лиц. Это открывает возможности для развертывания моделей на широком спектре аппаратных решений.
| Платформа/Чип | Производитель | Статус поддержки в Qt Edge AI |
|---|---|---|
| NVIDIA Jetson / Thor | NVIDIA | Целевая платформа (initial support) |
| Qualcomm IQ | Qualcomm | Целевая платформа (initial support) |
| NXP i.MX95 | NXP Semiconductors | Поддержка через NNStreamer бэкенд |
Роль AI в разработке самого Qt
Интересно отметить, что первая версия кода подмодуля Qt Edge AI была соавторски создана с помощью AI-агента Cursor. Это демонстрирует замкнутый цикл использования технологий: инструменты на базе ИИ используются для создания инструментов для ИИ. В будущем ожидается расширение функционала модуля за пределы задач компьютерного зрения.
Источник: Phoronix ↗