Архитектура и ключевые компоненты
NVIDIA Kumo Forecast (ранее известная как NV-Tesseract Forecasting) — это модель для прогнозирования временных рядов, построенная на базе предварительно обученного трансформера MOMENT-1-large. Архитектура состоит из базового энкодера с примерно 340 миллионами параметров и обучаемой головы прогнозирования (forecasting head). Веса энкодера и эмбеддера остаются замороженными, что позволяет использовать мощные представления, выученные на больших данных, для специфичных задач.
Модель поддерживает четыре основных компонента:
- Предобученные временные представления: Использование MOMENT-1-large в качестве ядра.
- Прямое прогнозирование: Прогноз будущих значений на заданный горизонт. Поддерживается авторегрессионное расширение для горизонтов, превышающих нативную способность модели.
- Domain-Aware Representation and Retrieval (DARR): Режим, обогащающий контекст. Модель использует k-ближайших соседей для поиска похожих паттернов в исторических данных (через аргумент
context_df) и комбинирует их с прямым прогнозом. - Интерпретируемость: Модель-агностичный фреймворк, генерирующий объяснения для каждого горизонта прогноза, включая атрибуции лагов, семантическую диагностику потока и интегральные градиенты вложений (Integrated Gradients).
Технические характеристики и ограничения
Kumo Forecast работает с числовыми временными рядами, представленными в виде DataFrame (pandas, CSV, JSON). Модель поддерживает фиксированные длины входных последовательностей: 256, 512, 1024 и 2048 наблюдений. При использовании режима DARR размерность контекстных данных должна соответствовать размерности входных данных.
| Параметр | Значение / Описание |
|---|---|
| Базовая архитектура | Transformer (MOMENT-1-large) |
| Количество параметров | ~340 млн (энкодер) |
| Лицензия | Apache 2.0 |
| Поддерживаемые длины входа | 256, 512, 1024, 2048 |
| API | DataFrame-first (pandas compatible) |
| Репозиторий кода | NVIDIA/Kumo-TS |
| Веса модели | nvidia/Kumo-Forecast |
Практическое применение: Предиктивное обслуживание
Модель интегрирована в Blueprint для операций на фабриках (FOX Blueprint), где используется модуль предиктивного обслуживания. В связке с Kumo Anomaly (моделью обнаружения аномалий на основе диффузии), Kumo Forecast анализирует данные в реальном времени для прогнозирования будущих аномалий. Это позволяет предприятиям не только выявлять текущие отклонения, но и предвидеть их развитие.
Почему это важно
Главное отличие Kumo Forecast от стандартных моделей — режим DARR. Он позволяет модели «вспоминать» исторические прецеденты, похожие на текущую ситуацию, что значительно повышает точность в условиях изменчивых данных. Кроме того, встроенная интерпретируемость решает одну из главных проблем внедрения ИИ в бизнесе: возможность объяснить, почему модель сделала тот или иной прогноз, без необходимости обучать отдельные объясняющие модели.
Источник: Hugging Face blog ↗