Новая архитектура: от данных к интеллекту
NVIDIA представила обновленный Agent Toolkit, ставящий акцент на доверии и контроле корпоративных агентов. Ключевым элементом стала NVIDIA Agent Knowledge Foundation, позволяющая компаниям использовать свои данные для обучения агентов без переноса данных или изменения существующих рабочих процессов. В состав фундамента вошли библиотеки NVIDIA CUDA-X (cuDF, cuGraph, cuML, cuOpt, cuVS) и новая библиотека Auto-Ontology, которая автоматически преобразует сырые данные в бизнес-концепции (клиенты, продукты, заказы) и строит связи между ними.
Модели Kumo и Nemotron Retriever
Для работы с данными представлены открытые модели семейства Kumo (Structured, Tabular, Relational, Time Series, Forecast) и Nemotron Retriever. Эти модели помогают агентам находить релевантную информацию, делать прогнозы и отвечать на вопросы с учетом контекста бизнеса. Параллельно обновлен NVIDIA OpenShell — безопасная среда выполнения, определяющая границы доступа агентов, и NemoClaw — набор эталонных архитектур для создания специализированных агентов.
Результаты внедрения у партнеров
Крупные игроки уже оценили эффективность новых инструментов. Интеграция моделей Nemotron Retriever и Kumo привела к значительному улучшению метрик поиска и ранжирования:
| Компания / Партнер | Используемое решение | Результат / Метрика |
|---|---|---|
| SAP | Fine-tuned reranker | Скорость работы увеличена почти в 3 раза |
| ServiceNow | Nemotron Retriever | Качество ранжирования улучшено, задержка снижена на ~25% |
| Amazon OpenSearch Service | Nemotron Retriever (embedding) | Повышена релевантность при меньшем числе шагов поиска, задержка практически не выросла |
| Databricks | Kumo Anomaly + Genie Ontology | Создание контекстно-зависимых агентов |
| Palantir | Agent Knowledge Foundation | Прогнозирование исходов и оптимизация цепочек поставок через Foundry и AIP |
Экосистема и будущее
Помимо SAP, ServiceNow и Amazon, над интеграцией работают AWS, ClickHouse, Cloudera, IBM, Oracle, Zoom и другие. NVIDIA подчеркивает, что открытый стек (модели, хэрнир, рантайм, данные) необходим для создания агентов, способных выполнять реальную работу с гарантией безопасности. Подробности о развертывании специализированных агентов в продакшене будут представлены на сессии GTC Berlin.
Источник: NVIDIA Blog ↗