Новое поколение ускорителей MI300
На конференции AMD Advancing AI компания представила свои новейшие решения для искусственного интеллекта. Ключевыми продуктами стали ускорители MI300X и MI300A, которые позиционируются как прямые конкуренты NVIDIA H100. Эти чипы разработаны для работы с большими языковыми моделями (LLM) и требуют высокой пропускной способности памяти.
Технические характеристики и сравнение
AMD заявляет о значительном превосходстве своих новых чипов в ключевых метриках. Ниже приведено сравнение основных характеристик AMD MI300X и NVIDIA H100:
| Характеристика | AMD MI300X | NVIDIA H100 |
|---|---|---|
| Объем памяти HBM3 | 192 ГБ | 80 ГБ |
| Пропускная способность памяти | 5.3 ТБ/с | 3.35 ТБ/с |
| Количество транзисторов | 192 млрд | 80 млрд |
| Производительность FP16 | До 2.5x быстрее | Базовый уровень |
Архитектура и интеграция
Ускоритель MI300X построен на базе 3D-чиплета с использованием технологии Chiplet. Он включает 192 ГБ памяти HBM3 и 128-битную шину памяти. В свою очередь, MI300A объединяет CPU и GPU в одном корпусе, предлагая 128-ядерный CPU Zen 4 и GPU CDNA 3. Это решение предназначено для высокопроизводительных вычислений и AI-задач.
Значение для рынка
Анонс AMD MI300X и MI300A знаменует собой новый этап в гонке AI-чипов. С увеличенным объемом памяти и повышенной пропускной способностью, AMD предлагает альтернативу NVIDIA H100, которая может быть более выгодной для обработки больших моделей. Это может привести к снижению затрат на AI-инфраструктуру и расширению выбора для разработчиков.
Источник: TechPowerUp ↗