Стена памяти и дисбаланс производительности
На конференции Hot Chips 2026 Micron обозначила ключевую проблему масштабирования ИИ: так называемую "стену памяти" (Memory Wall). Компания привела данные, согласно которых вычислительная мощность ускорителей ИИ (TFLOPS) увеличивается примерно в 3 раза каждые два года, тогда как пропускная способность памяти, прикрепленной через 2.5D-упаковку (HBM), растет менее чем в 2 раза за тот же период. Этот разрыв делает память главным ограничителем производительности систем.
Эволюция HBM: от HBM2e до HBM4
Micron детализировала прогресс поколений High Bandwidth Memory. Ключевые изменения касаются скорости передачи данных, количества псевдо-каналов и высоты стека. В частности, HBM4 удваивает количество банков на кристалл по сравнению с HBM3E (с 128 до 256 банков) и увеличивает количество контактов ввода-вывода (IO) на интерпозере с 1K до 2K.
| Параметр | HBM3E | HBM4 |
|---|---|---|
| Банков на кристалл | 128 | 256 |
| Контакты IO на интерпозере | 1K | 2K |
| Архитектура PHY | Microbump / 3D TSV | Microbump / 3D TSV (усиленная) |
Цена скорости: площадь кремния и стоимость
Одним из самых впечатляющих слайдов стала демонстрация физических размеров. Типичный GPU в сборе с базовым кристаллом и восемью чипами HBM4 (высота 12 слоев) занимает более 12 000 кв. мм. При этом площадь самого кремния памяти может превышать площадь вычислительного кристалла GPU в 8 раз. Micron также отметила, что для доставки той же емкости HBM3E, что и у DDR5, требуется в 3 раза больше кремния из-за сложности архитектуры и упаковки.
Тепловые и надежностьжные вызовы
Рост высоты стека и активности кристаллов создает серьезные тепловые проблемы. Micron выделила три направления решений: жидкостное охлаждение, гибридное связывание (hybrid bonding) и изменение материалов припоя и боковых форм. Для обеспечения надежности (RAS) внедрены двухуровневые системы ECC: на уровне системы (16 мета-бит на 256-битный доступ) и на уровне кристалла (Reed-Solomon ECC). Несоответствие коэффициентов теплового расширения материалов в гетерогенной упаковке создает механическое напряжение, требующее тщательного управления.
Почему это важно
Презентация Micron подтверждает тренд: ИИ-ускорители будущего будут определяться не только вычислительной мощностью, но и способностью упаковки (CoWoS-L, CoWoS-R, стеклянные подложки) интегрировать огромные объемы памяти с минимальными тепловыми потерями. Дефицит HBM и сложность производства таких систем будут ключевыми факторами, определяющими архитектуру дата-центров следующего поколения.
Источник: ServeTheHome ↗