От TheRock к единому IR: что изменилось в ROCm 7.2
После релиза ROCm 7.14, ставшего первым стабильным выпуском на базе архитектуры TheRock, AMD делает ставку на глубокую интеграцию стандарта SPIR-V (Intermediate Representation) в свой стек машинного обучения. В отличие от традиционного подхода, где под каждую архитектуру GPU (GCN, CDNA) требуется отдельная сборка, новый подход позволяет создавать унифицированные бинарные файлы. Это решает проблему фрагментации и упрощает развертывание моделей на разнородном оборудовании.
Технические детали и текущий статус
Поддержка SPIR-V в ROCm 7.2 уже включает базовые функции: целевой модуль AMD GCN SPIR-V в LLVM/Clang, стабильный путь трансляции SPIRV-LLVM и кэширование JIT на уровне процесса. Однако переход на встроенный бэкенд LLVM (вместо внешнего транслятора) и оптимизация отладки остаются задачами будущего. Ключевая проблема, которую предстоит решить — необходимость сборки библиотек для каждой архитектуры отдельно, чтобы избежать накладных расходов.
Сравнение подходов: Традиционный ROCm vs. ROCm со SPIR-V
| Характеристика | Традиционный подход (до SPIR-V) | Новый подход (ROCm + SPIR-V) |
|---|---|---|
| Бинарные файлы | Специфичные для каждой GPU-архитектуры | Единый универсальный бинарь |
| Время сборки | Длительное, зависит от числа целевых платформ | Планируется «плоское» время сборки |
| Размер бинаря | Большой (накопление всех архитектур) | Меньший размер, единый пакет |
| Запуск (JIT) | Быстрая инициализация | Высокая задержка при первом запуске (JIT-latency) |
| Совместимость | Требует перекомпиляции для новых GPU | «Бесплатная» будущая совместимость |
Почему это важно для разработчиков AI
Успешная реализация этой стратегии означает, что фреймворки вроде PyTorch смогут работать на широком спектре GPU AMD без необходимости сложной настройки окружения под каждое устройство. AMD уже подтвердила работоспособность концепции через proof-of-success тесты с PyTorch. Ожидается, что на мероприятии AMD Advancing AI в Калифорнии будут представлены дополнительные детали по улучшению отладки и ускорению JIT-компиляции, которые сейчас являются главным узким местом.
Источник: Phoronix ↗