Два новых продукта, один кремний
Google анонсировала системы TPU 8i Max и TPU 8tx, которые не используют новый кремний, а переупаковывают существующие чипы 8-го поколения (TPU 8i и TPU 8t). Это позволяет компании быстро масштабировать инфраструктуру без задержек на разработку новых архитектур.
TPU 8i Max: удвоение мощности в том же корпусе
Главная инновация TPU 8i Max — объединение двух чипов TPU 8i в одном пакете. Это решение направлено на преодоление «стены памяти» (memory wall) и поддержку агентов, работающих с огромными контекстными окнами (например, анализ целых кодовых баз или часов видео).
Хотя Google не опубликовала абсолютные цифры, производительность можно оценить, удвоив спецификации одного чипа TPU 8i:
- Вычислительная мощность: ~20.2 PFLOPS (FP4) против 10.1 PFLOPS у одного чипа.
- Полоса пропускания HBM: ~17.2 TB/s (против 8.6 TB/s).
- SRAM: ~768 MB (против 384 MB).
Система сохраняет тот же форм-фактор стойки, что позволяет разместить вдвое больше кремния в существующих дата-центрах.
TPU 8tx: конфиденциальные вычисления без потерь
TPU 8tx ориентирован на регулируемые отрасли и госсектор. Он обеспечивает защиту данных и весов моделей даже во время активной обработки (confidential inference). В отличие от традиционных подходов, где данные должны расшифровываться в памяти, здесь используется изолированная среда.
Система базируется на чипе TPU 8t и использует процессоры AMD EPYC 5-го поколения в качестве хостов. Google заявляет снижение задержки до 2 раз по сравнению с обычным TPU 8t при практически нулевом снижении производительности из-за шифрования.
Сравнение с конкурентами
Новые решения Google вступают в борьбу с NVIDIA Rubin, Microsoft Maia 200 и AWS Trainium3. Ниже приведена сравнительная таблица ключевых характеристик (данные для конкурентов взяты из открытых источников, для Google — расчетные или заявленные значения):
| Характеристика | Google TPU 8i Max | Google TPU 8tx | NVIDIA Rubin GPU | Microsoft Maia 200 |
|---|---|---|---|---|
| Роль | Long-context inference | Confidential inference | Training and inference | Inference |
| Кремний | 2x TPU 8i | TPU 8t | Dual-die GPU | TSMC 3nm |
| Пиковая FP4 | ~20.2 PFLOPS (расч.) | Не раскрыто (TPU 8t: 12.6) | 50 PFLOPS NVFP4 | >10 PFLOPS |
| HBM пропускная способность | ~17.2 TB/s (расч.) | Не раскрыто (TPU 8t: 6.5 TB/s) | 22 TB/s | 7 TB/s |
| Дата выхода | 2027 | 2027 | H2 2026 | Announced Jan 2026 |
Софтверный стек: TorchTPU и Agent Compute Engine
Параллельно с «железом» Google обновляет софт. Открыта библиотека TorchTPU для нативной работы PyTorch и Hugging Face, а также TPU Sync — библиотека для кэширования KV-памяти. На модели Qwen3 235B (на базе предыдущего поколения Ironwood) TPU Sync снизила медианную задержку передачи KV с нескольких секунд до 230 мс, а TTFT упал на 60-90%.
Системы TPU 8i Max и TPU 8tx станут доступны в 2027 году.
Источник: MarkTechPost ↗