Суверенитет и эффективность: Nscale и Crusoe
Европейский рынок требует вычислительных мощностей ближе к данным, что стимулирует развитие суверенных облаков. Компания Nscale использует платформу NVIDIA DSX для координации распределения энергии. В тестах на системах NVIDIA GB300 NVL72 технология DSX MaxLPS позволила разместить на 37% больше GPU и увеличить совокупную пропускную способность вывода (inference) почти на 50% в рамках того же бюджета по питанию. Nscale также планирует развернуть инфраструктуру NVIDIA Vera Rubin для обучения моделей передового уровня.
Параллельно Crusoe разрабатывает модульные AI-фабрики Spark с жидкостным охлаждением для платформы Vera Rubin. Это решение направлено на снижение задержек при выводе моделей для клиентов в регионе EMEA, таких как Base44, Gradium и LTX.
Открытые модели и оптимизация затрат
Развитие экосистемы открытых моделей демонстрирует конкретные результаты в оптимизации. Платформа Baseten совместно с CodeRabbit применила модель Nemotron 3.5 Lightning для маршрутизации проверки кода. Благодаря дообучению (SFT) и обучению с подкреплением (RL), точность согласования маршрутизации выросла с 75,8% до 80,7%, а затраты на инференс снизились на 50%.
Mistral представила мультимодальную модель Mistral Large 4, обученную на 3 800 GPU NVIDIA Grace Blackwell в европейских дата-центрах. Модель ориентирована на кодинг, агентные рабочие процессы и мультимодальное понимание. Запуск инфраструктуры Vera Rubin для Mistral запланирован на 2027 год.
Безопасность AI-агентов: архитектура OpenShell
Ключевым нововведением стала OpenShell Reference Architecture, анонсированная на GTC Berlin. Архитектура обеспечивает полный контроль над действиями AI-агентов, устанавливая четкие границы их доступа к инструментам и данным. Решение включает:
- NVIDIA Vera Rubin NVL72 для вывода моделей;
- NVIDIA Vera CPUs с ПО OpenShell для управления агентами;
- NVIDIA BlueField-4 DPU с технологией Sentry для принудительного контроля на уровне кремния.
Сводка ключевых показателей и игроков
| Компания / Проект | Технология / Модель | Ключевой результат / Особенность |
|---|---|---|
| Nscale | DSX MaxLPS + GB300 NVL72 | +37% GPU, +50% throughput в рамках того же энергобюджета |
| Baseten + CodeRabbit | Nemotron 3.5 Lightning | Снижение затрат на инференс на 50%, рост точности до 80,7% |
| Mistral | Mistral Large 4 | Обучено на 3 800 GPU Grace Blackwell; фокус на агентах и коде |
| Nebius | Groq 3 LPX + Spectrum-X | Ускоренная генерация токенов для чувствительных к задержкам систем |
| Crusoe | Spark (Vera Rubin) | Модульные фабрики с жидкостным охлаждением для low-latency inference |
Экосистема партнеров
В поддержку архитектуры OpenShell и расширения мощностей присоединились более 20 компаний, включая Aleria, Cassava, CoreWeave, DigitalOcean, Firebird, Fireworks, G42, Lambda, Vultr и других. Это создает единую базу для безопасного развертывания агентов в Европе, Скандинавии, Африке и Центральной Азии.
Бенчмарки
| Бенчмарк | CodeRabbit (after) | CodeRabbit (before) |
|---|---|---|
| routing agreement | 80.7% | 75.8% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: NVIDIA Blog ↗