Смена парадигмы: почему CPU стал критичным для Agentic AI
Архитектура NVIDIA Vera CPU, анонсированная 21 июля 2026 года, отвечает на вызовы агентов ИИ (Agentic AI), которые берут на себя выполнение критических путей выполнения кода. В отличие от традиционных облачных процессоров, ориентированных на плотность ядер, агенты требуют:
- Высокой однопоточной производительности даже при полной загрузке сокета.
- Предсказуемой задержки при конкурентном выполнении множества агентов.
- Эффективной обработки нерегулярного потока управления и длинных цепочек зависимостей.
Ядро Olympus спроектировано для максимизации IPC (Instructions Per Cycle) в таких сценариях, где важнее скорость ответа отдельного потока, чем общая пропускная способность.
Архитектура ядра Olympus: от предсказания ветвлений к выполнению
Ядро Olympus построено с учетом специфики агентов, работающих в песочницах, вызывающих инструменты и анализирующих контекст. Ключевые компоненты включают:
- Front End: 10-широкий декодер инструкций и нейронный предсказатель ветвлений, поддерживающий до двух принятых ветвлений за цикл для снижения ошибок предсказания.
- Mid Core: Широкий механизм перенаименования и регистров, а также функции разрыва зависимостей (memory renaming, value prediction) для ускорения работы с указателями и графами.
- Execution Engine: Динамическое планирование операций по целочисленным, векторным, плавающим и криптографическим ресурсам с глубокой внеочередной обработкой (out-of-order execution).
Память и связность: 3.4 TB/s внутри кристалла
Для обеспечения данных ядрам используется Scalable Coherency Fabric, обеспечивающая пропускную способность 3.4 TB/s внутри кристалла и единое кэширование. Подсистема памяти включает модули SOCAMM2 LPDDR5X, обеспечивающие до 1.2 TB/s агрегатной пропускной способности с высокой надежностью (RAS).
Сравнительные характеристики ключевых узлов архитектуры
| Компонент | Характеристика / Метрика | Назначение в контексте Agentic AI |
|---|---|---|
| Предсказатель ветвлений | Нейронный, до 2 принятых ветвлений/цикл | Снижение простоев при нерегулярном потоке управления |
| Декодер инструкций | 10-широкий | Подавление узких мест на этапе извлечения инструкций |
| Внутрикристальная связность | 3.4 TB/s (Scalable Coherency Fabric) | Единое кэширование и низкая задержка между ядрами |
| Подсистема памяти | До 1.2 TB/s (SOCAMM2 LPDDR5X) | Обеспечение данных для множества активных контекстов |
| Связь между сокетами | Coherent NVLink-C2C, PCIe 6.4, CXL 3.1 | Масштабируемость и безопасность (Confidential Computing) |
Безопасность и масштабирование
Архитектура поддерживает архитектуру с одним NUMA для двух сокетов, что упрощает управление памятью для агентов. Также интегрированы технологии Confidential Computing для изоляции виртуальных машин и безопасного перемещения данных, что критично для корпоративных AI-фабрик, где агенты обрабатывают конфиденциальные данные.
Источник: NVIDIA dev blog ↗