Новый стандарт для локального инференса
В условиях дефицита высокопроизводительных GPU для AI, ASRock выпустила Radeon AI Pro R9700 — флагманскую карту на архитектуре RDNA 4 (GPU Navi 48). Это решение позиционируется как прямой конкурент для развертывания больших языковых моделей (LLM) в рабочих станциях, где критичны надежность и компактность. Ключевое отличие от потребительских версий — наличие ECC-памяти (на Linux) и строгий двухслотовый форм-фактор, позволяющий устанавливать до 4 карт в один сервер ATX.
Железо: вычислительная мощь и память
Сердце карты — 64 вычислительных блока (CU) с 4096 шейдерными ядрами и 128 ускорителями AI. Архитектура RDNA 4 впервые добавила аппаратную поддержку FP8, что кратно увеличивает пропускную способность матричных операций. Несмотря на меньший объем памяти (32 ГБ) по сравнению с предшественником W7900 (48 ГБ), производительность на терафлопс значительно выросла за счет оптимизации под низкоточные вычисления.
| Параметр | Значение |
|---|---|
| Архитектура | AMD RDNA 4 (Navi 48) |
| Объем памяти | 32 ГБ GDDR6 |
| Пропускная способность | 640 ГБ/сек |
| Пиковая производительность (FP8) | 382.7 TFLOPS |
| Пиковая производительность (FP32) | 47.8 TFLOPS |
| Теплопакет (TDP) | 300 Вт |
| ECC поддержка | Да (только Linux, soft ECC) |
Почему это важно для AI-разработчиков
Поддержка FP8 позволяет упаковывать модели с большим количеством параметров в ограниченный объем VRAM. Например, использование весов FP6 (обрабатываемых как FP8) дает возможность запустить модель на ~30B параметров с запасом памяти. Это делает R9700 идеальной платформой для локального инференса моделей среднего размера без необходимости использовать дорогие серверные решения уровня MI300.
Дизайн и совместимость
ASRock сохранила строгий двухслотовый дизайн с обдувом (blower), что является редкостью для современных GPU, но критически важно для серверных шасси. Это позволяет эффективно отводить тепло при установке нескольких карт. Карта использует интерфейс PCIe Gen5 x16 и потребляет 300 Вт, что требует мощного блока питания при конфигурации из 4 устройств, но остается в рамках стандартов рабочих станций.
Источник: ServeTheHome ↗