Суть технологии: HBC против HBM
Qualcomm представила архитектуру High Bandwidth Compute (HBC), которая кардинально отличается от традиционной HBM. Если в HBM стеки DRAM размещаются на базовом кристалле, подключенном к процессору через широкую шину, то в HBC под слоями памяти размещается небольшой вычислительный кристалл. Это позволяет выполнять наиболее ресурсоемкие операции непосредственно у памяти, минимизируя перемещение данных.
Ключевые преимущества подхода:
- Энергоэффективность: Сокращение расстояния передачи данных снижает энергопотребление.
- Стоимость: Меньшая потребность в пропускной способности соединения между вычислительным и памятьным блоками позволяет использовать более дешевые 2D-органические подложки вместо сложных технологий упаковки CoWoS или EMIB.
- Емкость: Использование DRAM-чипов LPDDR5X вместо тонких высокопроизводительных чипов HBM позволяет достичь большей плотности памяти.
Результаты валидации: цифры и метрики
В лабораториях в Сан-Диего Qualcomm протестировала ранний образец стека HBC, состоящий из 2 слоев DRAM (в серийных продуктах будет 4 слоя). Тестирование проводилось с использованием автоматизированного тестера, измеряющего характеристики как устройства LPDDR5X, так и устройства HBC.
Основные результаты валидации:
- Технология работает и соответствует ожиданиям по энергоэффективности.
- Пропускная способность в 18 раз выше, чем у внешней памяти LPDDR5X.
- Энергоэффективность (полоса пропускания на ватт) в 5 раз превышает спецификации HBM4.
| Параметр | Qualcomm HBC (валидация) | Сравнение / Примечание |
|---|---|---|
| Энергоэффективность (Bandwidth/Watt) | В 5 раз выше | По сравнению со спецификациями HBM4 (целевой показатель был 6x) |
| Пропускная способность | В 18 раз выше | По сравнению с внешней памятью LPDDR5X |
| Количество слоев DRAM (тест) | 2 слоя | Серийные продукты (Dragonfly AI250) будут иметь 4 слоя |
| Тип памяти | LPDDR5X | В отличие от HBM, использующей специализированные тонкие чипы |
Dragonfly AI250: сроки и планы
Завершенная валидация открывает путь к массовому производству. Ускоритель Dragonfly AI250, который станет первым коммерческим продуктом с интегрированной архитектурой HBC, начнет выборочные поставки (sampling) в первой половине 2027 года. Это ускоритель следующего поколения после Dragonfly AI200, ожидаемого в этом году.
Технология HBC не ограничится только AI-ускорителями. Qualcomm планирует использовать эту архитектуру для создания более сбалансированных решений для AI-инференса, где критически важны как пропускная способность, так и емкость памяти при сохранении приемлемых затрат на производство.
Источник: ServeTheHome ↗