Новая архитектура: от обучения до деплоя агентов
Компания MSI объявила о расширении функциональности своих решений XpertStation WS300 и EdgeXpert, добавив нативную поддержку технологий NVIDIA для агентного ИИ. Ключевыми новинками стали легковесная модель Nemotron 3.5 Lightning и библиотека маршрутизации NeMo Switchyard. Это позволяет пользователям запускать сложные многоагентные рабочие процессы локально, избегая задержек и затрат на передачу данных в облако.
«Ни одна система не подходит для каждого этапа жизненного цикла ИИ-агента», — отметил Сам Черн (Sam Chern), вице-президент MSI по маркетингу. Интеграция дает клиентам полный путь: от обучения и тонкой настройки моделей до непрерывного развертывания агентов в рамках единой экосистемы без смены вендоров.
XpertStation WS300: Мощь для разработки
Платформа XpertStation WS300, построенная на базе десктопного суперчипа NVIDIA GB300 Grace Blackwell Ultra, позиционируется как локальный ИИ-суперкомпьютер. Ее главная особенность — до 748 ГБ когерентной памяти, что позволяет запускать одновременно как тяжеловесные модели передового уровня, так и легковесные Nemotron 3.5 Lightning без выгрузки задач на внешние серверы.
Для масштабирования два узла WS300 могут быть соединены напрямую через сетевой адаптер NVIDIA ConnectX-8 SuperNIC, а хранилище PCIe Gen 5/Gen 6 NVMe обеспечивает непрерывную подачу данных для длительных многоагентных нагрузок.
EdgeXpert: Компактность для всегда включенных агентов
Решение EdgeXpert, основанное на платформе NVIDIA DGX Spark и чипе GB10 Grace Blackwell, предлагает до 1 петафлопс вычислительной мощности ИИ в компактном форм-факторе. При наличии 128 ГБ унифицированной памяти система способна непрерывно удерживать в памяти Nemotron 3.5 Lightning и модели объемом до 200 миллиардов параметров.
Это критически важно для задач высокой пропускной способности, которые остаются локальными. До четырех узлов EdgeXpert могут объединяться в кластер через NVIDIA ConnectX-7, расширяя пул локальных моделей для маршрутизации Switchyard по мере роста нагрузки.
Технологии NVIDIA: Switchyard и Nemotron 3.5 Lightning
Центральным элементом новой экосистемы является NVIDIA NeMo Switchyard — библиотека с открытым исходным кодом для маршрутизации моделей. Она автоматически оценивает каждый шаг рабочего процесса агента и выбирает наиболее подходящую модель, улучшая свои решения по мере работы агентов, без необходимости ручной настройки или дообучения.
Для высокочастотных задач используется Nemotron 3.5 Lightning. Это легковесная открытая модель, полученная дистилляцией из флагманской Nemotron 3 Ultra. Она построена на гибридной архитектуре Mixture-of-Experts (MoE) с 30 миллиардами общих параметров, из которых активны только 3 миллиарда. Модель поддерживает контекстное окно до 1 миллиона токенов, что делает её идеальным партнером для более крупных моделей в системе «система моделей».
Сравнение платформ MSI
| Характеристика | XpertStation WS300 | EdgeXpert |
|---|---|---|
| Платформа NVIDIA | DGX Station (GB300 Grace Blackwell Ultra) | DGX Spark (GB10 Grace Blackwell) |
| Вычислительная мощность | Не указана (фокус на памяти) | До 1 петафлопс (AI compute) |
| Объем памяти | До 748 ГБ когерентной | 128 ГБ унифицированной |
| Сетевое подключение | ConnectX-8 SuperNIC (до 2 узлов) | ConnectX-7 (до 4 узлов в кластер) |
| Основное назначение | Локальная разработка, тонкая настройка, сложные мультиагентные воркфлоу | Компактные системы для всегда включенных ИИ-агентов, высокая пропускная способность |
Источник: TechPowerUp ↗