Конфигурация тестового стенда
Для оценки производительности Advanced Matrix Extensions (AMX) на процессоре Intel Xeon 678X использовалась рабочая станция HP Z4 G6i. Тестирование проводилось в среде Linux (Ubuntu 26.04) с ядром 7.0. Ключевые характеристики системы:
- Процессор: Intel Xeon 678X (архитектура Granite Rapids WS)
- Память: 4 x 32GB DDR5-6400 (MRDIMMs)
- ОС: Ubuntu 26.04, Linux Kernel 7.0
AMX против AVX-512: Энергоэффективность
В отличие от ранних поколений Xeon, где использование AVX-512 часто приводило к значительному росту тепловыделения, AMX демонстрирует высокую эффективность. Тесты подтвердили, что активация AMX не вызывает существенных скачков энергопотребления или температур, что критически важно для рабочих станций, работающих с тяжелыми AI-нагрузками в фоновом режиме.
Результаты в OpenVINO и Llama.cpp
Ключевые бенчмарки показали, что адаптация ПО под AMX-BF16 дает существенный прирост скорости. Особенно это заметно в задачах обработки изображений (Open Image Denoise) и инференса LLM (Llama.cpp). Ниже приведена сводка по ключевым метрикам производительности:
| Приложение / Библиотека | Ключевая особенность | Результат / Наблюдение |
|---|---|---|
| OpenVINO | Оптимизация AI-моделей | Значительный прирост FPS при использовании AMX-инструкций |
| OpenVINO + oneDNN | Базовые вычисления | Ускорение матричных операций за счет BF16 |
| Llama.cpp | Инференс LLM | Повышение скорости генерации токенов |
| Open Image Denoise (OIDn) | Денуайзинг изображений | Адаптация под AMX-BF16 дала самый заметный буст |
Почему это важно
Intel Xeon 678X позиционируется как процессор для высокопроизводительных рабочих станций, и наличие AMX делает его конкурентоспособным решением для локального запуска AI-моделей. Отсутствие «штрафа» за энергопотребление при использовании AMX позволяет инженерам и дата-сайентистам использовать всю мощь 8-ядерной (и более) конфигурации без риска перегрева, что особенно актуально для компактных форм-факторов, таких как HP Z4 G6i.
Источник: Phoronix ↗