Проблема утечки тока и лимиты DVFS
Современные AI-акселераторы, такие как будущая архитектура Nvidia Rubin, потребляют до 2400 Вт. Хотя температура кристалла в 95°C не угрожает долговечности кремния, она критически влияет на энергоэффективность. Согласно анализу Frore Systems, ток утечки удваивается при каждом повышении температуры на 10°C. Это заставляет систему DVFS (Dynamic Voltage and Frequency Scaling) снижать частоты для удержания в рамках тепловых лимитов, что напрямую снижает производительность.
Решение: от delidding до 3D-микроструктур
Frore предлагает комплексный подход. Во-первых, снятие крышки (delidding) пакета GPU снижает термическое сопротивление и может уменьшить температуру на 20°C, повышая эффективность на 35%, хотя и снижает механическую надежность. Во-вторых, собственная технология LiquidJet использует методы полупроводникового производства (травление и склейка) для создания 3D-медных микроструктур, точно повторяющих карту тепловыделения чипа, в отличие от традиционного скрайвинга.
Ключевые метрики эффективности
На основе аналитической тепловой модели Frore приводит следующие прогнозы для Nvidia Rubin:
| Параметр | Значение / Эффект |
|---|---|
| Снижение температуры кристалла (LiquidJet) | 6–12°C |
| Снижение температуры (Delidding) | до 20°C |
| Рост эффективности (Tokens/Watt) | 10–25% (при снижении на 10°C) |
| Рост генерации токенов | ~15% |
| Максимальная температура входа охладителя | 45°C (поддержка free cooling) |
Экономика для гиперскейлеров
Улучшение эффективности охлаждения меняет экономику дата-центров. Поскольку LiquidJet требует меньшего расхода хладагента для поддержания той же температуры, снижается нагрузка на чиллеры. Это позволяет гиперскейлерам использовать «бесплатное» охлаждение (free cooling) при температуре входа до 45°C, что критически важно для рентабельности AI-кластеров.
Источник: Tom's Hardware ↗