Новое расширение для ИИ-вычислений
В июле 2026 года вышла версия Vulkan 1.4.356, ключевой особенностью которой стало добавление расширения VK_EXT_shader_shader_ocp_microscaling_types. Это расширение предназначено для поддержки форматов данных Open Compute Project (OCP) Microscaling (MX), что критически важно для повышения эффективности машинного обучения.
Расширение позволяет шейдерам работать с плавающей точкой, определенной в спецификации OCP MX. Важно отметить, что на данном этапе поддержка ограничена типами данных, а не прямыми операциями с микромасштабированными тензорами, однако это закладывает фундамент для будущих оптимизаций.
Форматы данных и их преимущества
Форматы OCP MX включают MXFP4, MXFP6, MXFP8 и MXINT8. Их внедрение в Vulkan направлено на решение двух главных проблем ИИ-инференса и обучения: снижение требований к пропускной способности памяти и увеличение вычислительной пропускной способности.
| Формат | Тип данных | Основное назначение |
|---|---|---|
| MXFP4 | Float Point 4-bit | Максимальная эффективность памяти для инференса |
| MXFP6 | Float Point 6-bit | Баланс точности и производительности |
| MXFP8 | Float Point 8-bit | Стандарт для современных ИИ-моделей |
| MXINT8 | Integer 8-bit | Квантованные вычисления |
Участники разработки
Работа над расширением велась несколько месяцев при активной поддержке ведущих игроков индустрии. В разработке принимали участие компании NVIDIA, Samsung, Imagination Technologies и Arm. Их вклад отражает растущий отраслевой спрос на стандартизированные форматы данных для ускорителей ИИ.
Значение для разработчиков
Для разработчиков игр и приложений с ИИ-компонентами это означает возможность более эффективного использования GPU. Снижение требований к памяти позволит запускать более сложные модели на оборудовании с ограниченными ресурсами, а увеличение вычислительной пропускной способности ускорит обучение и инференс.
Источник: Phoronix ↗