Архитектура Vera Rubin и Windows on Arm
Ключевое событие релиза — переход поддержки архитектуры NVIDIA Vera Rubin из стадии Developer Access в статус General Availability (GA). Это означает, что разработчики могут использовать новые возможности GPU в продакшен-средах. Кроме того, поддержка Windows on Arm, появившаяся в CUDA 13.4, теперь официально расширена на платформу NVIDIA DGX Station for Windows.
Мощный апдейт NVIDIA Multi-Process Service (MPS v3)
Версия 3 сервиса MPS предлагает тонкую настройку распределения ресурсов GPU. Теперь администраторы могут использовать взвешенное время_slice (weighted timeslicing) для приоритизации тяжелых задач, а также балансировку нагрузки между SM-партициями с функциями «заимствования» (borrowing) и «одолжения» (lending) ресурсов. Также добавлена маршрутизация на основе cgroup v2 и назначение партиций на уровне namespace.
Инновации в CUDA Tile и CCCL
CUDA Tile получил поддержку мульти-GPU коммуникаций: теперь ядра могут использовать unicast и multicast указатели через NVLink/NVSwitch для выполнения операций (например, редукции) напрямую в памяти, минуя лишние копирования. В публичном превью доступна интероперабельность SIMT: Tile-ядра могут вызывать функции из библиотек NVSHMEM, CCCL Coop, Warp и MathDx, работая с данными в регистрах и shared memory.
Сравнение ключевых нововведений
| Компонент | Новая функция | Польза для разработчика |
|---|---|---|
| MPS v3 | Weighted timeslicing & SM Partition Load Balancing | Гибкое управление приоритетами задач и эффективное использование свободных SM без простоев. |
| CUDA Tile | Multi-GPU Communication (Unicast/Multicast) | Выполнение распределенных вычислений (fused matmul, reductions) внутри ядра через NVLink/NVSwitch. |
| CUDA Python | cuda.core 1.2 (copy_batch, LaunchConfig) | Пакетные копии памяти и гибкое обновление CUDA Graphs без повторной инициализации. |
| CCCL 3.5 | Batched Top-K (FlashInfer), Deferred Reductions | Оптимизация операций выбора и редукции, зависящих от данных, с использованием cuda::args::deferred. |
Изменения в драйверах для архитектуры Rubin
Для GPU на базе архитектуры Rubin и новее NVIDIA отказывается от поддержки режима Tesla Compute Cluster (TCC). Вместо него поддерживаются WDDM (Windows Driver Display Model) и MCDM (Microsoft Compute Driver Model). Разработчикам необходимо обновить инструменты развертывания, чтобы они использовали MCDM для вычислительных задач на новых архитектурах.
Где скачать?
Полный пакет CUDA Toolkit 13.5 уже доступен для загрузки. Рекомендуется ознакомиться с документацией по CUDA Runtime API для работы с локальными доменами и MPS v3 Interface Guide для настройки политик распределения ресурсов.
Источник: NVIDIA dev blog ↗