Что произошло: A5X становится доступен
Google Cloud и NVIDIA объявили о начале подготовки к общедоступности (GA) инстансов A5X, которые станут доступны клиентам в следующем месяце. Это решение объединяет вычислительные мощности NVIDIA Vera Rubin NVL72, сетевые адаптеры ConnectX-9 SuperNIC, сеть Google Cloud Virgo и систему жидкостного охлаждения четвертого поколения. Цель платформы — обеспечить инфраструктуру для агентов ИИ и крупномасштабного обучения с подкреплением (RL).
Масштаб и технические характеристики
Google Cloud планирует развернуть инфраструктуру на базе Vera Rubin на площадках по всему миру, доводя общее количество GPU Rubin до 960 000 единиц. Инстансы A5X спроектированы так, чтобы минимизировать задержки между генерацией опыта агентом и его последующим обучением, что критически важно для систем, которые учатся на собственном опыте.
Первые кейсы: Ineffable Intelligence и WPP
Первым клиентом, получившим доступ к A5X, стала лондонская компания Ineffable Intelligence, основанная создателем AlphaGo Дэвидом Сильвером. Они используют платформу для создания «суперобучающихся» систем, которые непрерывно улучшаются. В свою очередь, маркетинговый гигант WPP протестировал архитектуру агентов на базе A5X с использованием моделей Nemotron и фреймворка OpenShell. В ходе тестов задачи, требующие ранее многоузловых кластеров, успешно выполнялись на одном инстансе A5X.
Безопасность: Confidential Computing
Параллельно Google Cloud расширяет возможности защищенных вычислений. Технология NVIDIA Confidential Computing становится общедоступной на инстансах G4 (с GPU RTX PRO 6000 Blackwell Server Edition) для конфиденциального инференса и тонкой настройки. Для bare-metal инстансов A4X Max на базе GB300 NVL72 эта функция также будет внедрена одной из первых среди облачных провайдеров, что позволяет защищать проприетарные модели и данные даже на сторонней инфраструктуре.
Энергоэффективность и будущее
Для оптимизации энергопотребления при масштабном развертывании Google Cloud и NVIDIA исследуют возможности NVIDIA DSX MaxLPS. Это решение поможет максимизировать производительность на ватт, позволяя увеличивать плотность вычислений в рамках существующих лимитов мощности дата-центров.
Источник: NVIDIA Blog ↗