Новый стандарт памяти: между HBM и NAND
Крупнейшие производители флеш-памяти — Sandisk (SanDisk) и SK hynix — представили спецификацию High Bandwidth Flash (HBF), разработанную совместно и опубликованную через Open Compute Project (OCP). Это не проприетарный интерфейс, а открытый стандарт, призванный решить проблему нехватки памяти в системах искусственного интеллекта. HBF позиционируется как новый уровень памяти, сочетающий высокую пропускную способность, близкую к HBM, с энергонезависимостью и большей емкостью 3D NAND.
Технические характеристики и производительность
Спецификация определяет пакеты HBF объемом до 512 ГБ, использующие специализированные стеки из 8 или 16 кристаллов (8-Hi или 16-Hi). Важно отметить, что это не стандартные кристаллы 3D NAND, а «HBF core dies» с оптимизированными путями чтения/записи. Пропускная способность разделена на три класса, где топовая реализация обгоняет отдельные стеки HBM4 по скорости передачи данных, хотя и уступает им по задержкам.
| Параметр | Значение / Характеристика |
|---|---|
| Максимальная емкость пакета | 512 ГБ |
| Структура кристаллов | 8-Hi или 16-Hi (специализированные HBF core dies) |
| Пропускная способность (классы) | ~0.4 ТБ/с — 3.0 ТБ/с |
| Интерфейс подключения | UCIe (до 64 GT/s, 64 линии) или xPU-HBF |
| Сравнение с HBM4 | 3 ТБ/с (HBF) > 2 ТБ/с (одиночный стек HBM4), но выше латентность |
Архитектура и интеграция
Для достижения высокой скорости, например, 400 ГБ/с с одного пакета, используется интерфейс UCIe с частотой до 64 GT/s и 64 линиями передачи данных. Это требует сложной базы на кристалле. SK hynix утверждает использование стандарта UCIe для упрощения интеграции в гетерогенные вычислительные платформы, тогда как Sandisk упоминает интерфейс xPU-HBF, который может быть реализован через чипы от Broadcom или Marvell. Спецификация также включает требования к электрическим характеристикам, упаковке и программному обеспечению, хотя детали пока не опубликованы в открытом доступе.
Зачем это нужно индустрии AI?
Главная цель HBF — предоставить AI-инференсу доступ к большим пулам памяти, расположенным близко к вычислительным ядрам, что экономически невыгодно делать на чистой HBM. Если максимальная емкость стека HBM4 составляет 64 ГБ, то HBF предлагает до 512 ГБ. Это критически важно для моделей, требующих загрузки огромных весов без необходимости постоянной подкачки данных в более медленное хранилище.
Принятие индустрией: кто за, а кто против?
Несмотря на амбициозные цифры, внедрение технологии сталкивается с вопросом экосистемы. На данный момент в консорциум HBF вступили только Google и Tenstorrent. Крупнейшие игроки рынка, такие как AMD, Intel, Nvidia, Samsung, Micron, Western Digital, Qualcomm и Broadcom, пока не выразили заинтересованности в поддержке данного стандарта, что создает риск фрагментации рынка высокопроизводительной памяти.
Источник: Tom's Hardware ↗