Проблема «стены памяти» и тепла
Современные AI-ускорители, такие как Nvidia Blackwell Ultra B300 (до 288 ГБ HBM3E), упираются в ограничения пропускной способности и тепловыделения. Традиционная архитектура HBM предполагает вертикальную стопку DRAM-чипов на базовом кристалле. Чем выше стопка, тем сложнее отводить тепло от нижних слоев, а через-кристальные соединения (TSV) занимают полезную площадь, которую можно было бы использовать для ячеек памяти.
Корейское решение: V-Die (UNIST)
Исследователи из Университета науки и технологий Ульсан (UNIST) предложили архитектуру Vertical-Die (V-Die). Ключевые изменения:
- Ориентация: DRAM-чипы устанавливаются вертикально («на ребро»), а не укладываются плашмя.
- Отказ от TSV: Убираются вертикальные каналы, вместо этого используется I/O по нижнему краю каждого чипа. Шаг контактов — 20 микрон.
- Охлаждение: Между чипами размещены микрофлюидные каналы для жидкостного охлаждения.
В симуляциях на модели GPT-3 V-Die показала 540 токенов/сек против 296 токенов/сек у HBM4. Задержка первого токена сократилась на 32% (на 24 мс), а температура стека удерживается на уровне ~45°C (против 80°C+ у плотных HBM-систем).
Японское решение: MOSAIC (Университет Токио)
Проект MOSAIC фокусируется на проблеме выравнивания чипов при вертикальной установке. Для соединения используется бесконтактный интерфейс на индуктивных катушках. Это устраняет необходимость в идеальном совпадении контактных площадок, повышая толерантность к вариациям при сборке.
- Пропускная способность интерфейса: до 4 Гбит/с на канал.
- Вариант с микроотверстиями (bump-MOSAIC) показал в 3 раза большую теплопроводность и увеличение емкости памяти на 30%.
- Потенциал: удвоение емкости по сравнению с HBM4 без значительного роста пиковой температуры.
Сравнительные характеристики
| Параметр | HBM4 (База) | V-Die (UNIST) | MOSAIC (Университет Токио) |
|---|---|---|---|
| Ориентация чипов | Вертикальная стопка (плашмя) | Вертикальная установка (на ребро) | Вертикальная установка (на ребро) |
| Соединение | TSV + I/O | I/O по нижнему краю (без TSV) | Индуктивная связь (бесконтактная) |
| Производительность (GPT-3, токены/с) | 296 | 540 | Информация недостаточна (фокус на емкости) |
| Температура | >80°C | ~45°C (с жидкостным охлаждением) | Без значительного роста пиковой температуры |
| Емкость | Базовая | Сравнима с HBM4 (в тестах) | До 2x емкости HBM4 |
Статус внедрения
Обе технологии были представлены на симпозиуме IEEE/JSAP VLSI Technology and Circuits 2026. На данный момент ни V-Die, ни MOSAIC не готовы к коммерческому производству. V-Die находится на стадии прототипирования для проверки тепловых и электрических характеристик, а MOSAIC продемонстрировал принцип работы, но еще не масштабирован на объемные коммерческие объемы DRAM. Тем не менее, эти подходы могут стать основой для следующего поколения AI-ускорителей, где тепловыделение и пропускная способность являются критическими узкими местами.
Источник: Tom's Hardware ↗