В мире искусственного интеллекта мы уже привыкли к тому, что большие языковые модели (LLM) изменили правила игры в обработке естественного языка. Однако за пределами текста и изображений существует огромный пласт данных, который до сих пор оставался «темной материей» для современных AI-систем — это структурированные данные. Реляционные базы данных лежат в основе принятия решений в крупнейших корпорациях мира, от банков до логистических гигантов. Но работа с ними традиционно требовала недель кропотливой инженерии признаков, настройки специфичных для каждой задачи моделей и сложных пайплайнов. NVIDIA Kumo Relational меняет этот парадигму. Это первая фундаментальная модель (Foundation Model), способная делать прогнозы непосредственно на уровне реляционных баз данных, собирая контекст из тысяч исторических примеров и выдавая результат за один проход (forward pass). Никакого обучения, никакой ручной разметки, никакого упрощения структуры данных.
Эта технология позиционируется не просто как улучшение существующих методов, а как полный сдвиг в подходе к аналитике. Если LLM позволили агентам читать, писать и рассуждать, то Kumo Relational наделяет их способностью предвидеть будущее: предсказывать отток клиентов, спрос на товары или признаки мошенничества. В этой статье мы подробно разберем, как работает эта архитектура, почему она превосходит традиционные методы машинного обучения, такие как градиентный бустинг, и как российские разработчики могут начать использовать эту мощь уже сегодня.
01От плоских таблиц к живым базам данных: почему это важно
Большинство существующих фундаментальных моделей для структурированных данных работают с плоскими таблицами. Это означает, что перед подачей данных в модель их необходимо предварительно обработать: агрегировать, сглаживать и объединять в единый ряд. Например, аналитик может вручную создать признак «средняя сумма заказа за последние 30 дней». Такой подход не только требует значительных человеческих ресурсов, но и приводит к потере тонких структурных сигналов. Связи между пользователями, заказами и товарами, которые эволюционируют во времени, размываются в процессе «сплющивания» данных.
Kumo Relational — это Реляционная Фундаментальная Модель (Relational Foundation Model), которая уважает структуру базы данных. Она оперирует таблицами, внешними ключами (foreign keys) и временными метками (timestamps) именно в том виде, в котором они хранятся. Модель предобучена на синтетических реляционных данных, которые имитируют реальные бизнес-процессы, и адаптируется к каждой новой задаче через механизм обучения в контексте (in-context learning). При инференсе модель может прочитать до 10 000 исторических примеров, где каждый пример представляет собой локальный подграф вокруг сущности в определенный момент времени, и связывает его с известным целевым значением (например, «этот пользователь ушел» или «этот товар продал 142 единицы»).
02Архитектура мышления: как модель принимает решения
Чтобы сделать точный прогноз, Kumo Relational выполняет три сложных когнитивных действия: она понимает значения внутри каждой таблицы, устанавливает связи между записями в разных таблицах и сопоставляет примеры контекста с целевой сущностью. Давайте разберем этот процесс по шагам, чтобы понять, как именно происходит «мышление» модели.
1. Автоматическая генерация контекста через PQL
Задачи формулируются на языке предиктивных запросов (Predictive Query Language, PQL). Это декларативный интерфейс, где пользователь говорит модели, *что* нужно предсказать, а не *как* это сделать. Для временных задач Kumo Relational воспроизводит исторические состояния базы данных: она выбирает подграфы, центрированные вокруг сущности, до определенной временной метки (якоря) и вычисляет целевое значение на основе событий, произошедших после этой метки. При этом модели предоставляются только данные, предшествующие якорю. Это критически важно для предотвращения утечки данных (data leakage), когда модель случайно «подсматривает» в будущее.
2. Рассуждение внутри таблиц (Within-Table Reasoning)
Легковесная нейронная сеть обрабатывает каждую таблицу независимо. Она чередует механизмы внимания по столбцам (column attention), которые связывают значения внутри одного столбца, и внимания по строкам (row attention), которые связывают признаки внутри одной строки. Модель учится определять, какие столбцы и строки наиболее важны для текущего прогноза, и фильтрует шум до того, как он будет передан дальше. Это позволяет игнорировать нерелевантные данные и фокусироваться на сигналах, имеющих предсказательную силу.
3. Рассуждение между таблицами (Across-Table Reasoning)
Это самый сложный и важный этап. Более крупная сеть распределяет эмбеддинги строк по реляционной структуре с помощью графового внимания (graph attention) на основе связей первичных и внешних ключей. Эти операции чередуются с кросс-сэмпл вниманием (cross-sample attention) между различными примерами контекста. Именно здесь происходит истинное реляционное рассуждение: модель связывает профиль пользователя с его историей транзакций, связывает заказ с конкретным товаром и поставщиком. Поскольку этот этап работает с эмбеддингами строк, а не с каждой ячейкой в каждой таблице, архитектура избегает квадратичной сложности и масштабируется на большие контексты и глубокие подграфы.
03Как создавалась модель: роль синтетических данных
Одним из главных вызовов при создании фундаментальных моделей для структурированных данных является отсутствие больших, разнообразных и публично доступных наборов данных, которые отражали бы сложность реальных реляционных баз. Открытые датасеты часто слишком просты или не содержат достаточного количества временных рядов и сложных связей.
Чтобы решить эту проблему, NVIDIA использовала полностью синтетические данные. Генератор данных Kumo Relational построен на подходе PluRel (Kothapalli et al., ICML 2026), который расширяет генераторы данных для одиночных таблиц на полные реляционные базы. Команда Kumo активно участвовала в разработке PluRel. Процесс генерации состоит из трех этапов:
- Схема базы данных: Создание структуры таблиц и связей.
- Внешние ключи: Генерация связей между строками, которые кластеризуются так же, как в реальных данных.
- Значения столбцов: Генерация данных с использованием структурных каузальных моделей (Structural Causal Models), которые учитывают временные тренды и межтабличные зависимости.
Поскольку генерация данных легковесна, объем обучающей выборки практически неограничен. Исследования показывают, что потери при предобучении (pre-training loss) следуют степенному закону (power law) по мере добавления синтетических баз данных, и эти улучшения переносятся на реальные данные. В результате модель учится фильтровать, коррелировать и агрегировать информацию по таблицам, а не полагаться на фиксированные агрегации, заданные человеком.
04Производительность: победа над XGBoost и AutoGluon
Результаты тестирования Kumo Relational впечатляют. Модель была оценена на 41 задаче в 15 реляционных базах данных из наборов RelBench V1 и V2, SAP SALT и 4DBInfer. Эти наборы охватывают электронную коммерцию, медицину, корпоративные системы, социальные сети и академические домены. Ни один из этих датасетов не использовался при предобучении.
Kumo Relational превосходит самые сильные supervised-модели как в задачах классификации, так и в регрессии, включая реляционные глубокие нейронные сети и ансамбли, созданные экспертами с использованием инженерии признаков. На лидерборде RelArena-α, который сравнивает реляционные модели и системы на RelBench V1, Kumo Relational находится на границе Парето по точности и эффективности «из коробки»:
- Точность: На задачах RelBench V1 Kumo Relational превосходит градиентный бустинг (XGBoost) на экспертно-инженерных признаках в среднем почти на 4 пункта AUROC. На корпоративном бенчмарке SAP SALT она превосходит XGBoost на 7 пунктов MRR (Mean Reciprocal Rank) из коробки и на 13 пунктов после дообучения.
- Скорость: На RelArena-α Kumo Relational работает примерно в 430 раз быстрее, чем самый точный участник (rt-plurel), который достигает Elo 1878 за 7300 секунд, в то время как Kumo Relational достигает Elo 1842 за 17 секунд.
- Enterprise-бенчмарки: На SAP SALT Kumo Relational превосходит большие ансамбли AutoGluon на 8% по MRR и недавние табличные фундаментальные модели примерно на 25%. Дообучение расширяет это преимущество над AutoGluon до 16%.
Модель также демонстрирует устойчивость в сложных условиях: она хорошо работает, когда в контексте используется всего 0,2% обучающих данных, остается стабильной при удалении до 75% связей внешних ключей и практически не деградирует при добавлении большого количества шумовых столбцов.
05Ограничения и когда стоит использовать дообучение
Несмотря на впечатляющие результаты, у Kumo Relational есть свои ограничения, о которых важно знать для правильного применения. Модель показывает наилучшие результаты на данных со значимыми отношениями и временной динамикой, таких как поведение пользователей во времени.
В задачах с очень большими наборами обучающих данных специализированные supervised-модели могут все же немного превосходить предсказания на основе контекста, так как в бенчмарках использовалось не более 10 000 примеров контекста. Для таких случаев предусмотрено дообучение (fine-tuning) фундаментальной модели. Кроме того, предиктивные сигналы должны быть достижимы в пределах ограниченного количества «прыжков» (hops) по графу. Поэтому рекомендуется начинать с сфокусированных запросов по нескольким релевантным таблицам и расширять граф по мере необходимости.
06Как запустить Kumo Relational: код и интеграция
Kumo Relational работает нативно с обучением в контексте над базами данных: в памяти, через коннекторы баз данных и хранилищ, или через собственный графовый движок, который обрабатывает более 500 миллиардов строк с помощью memory-mapped I/O со скоростью до 5 ГБ/с. Модель доступна в библиотеке NVIDIA structured-data-models, которая является GPU-native и открыта под лицензией Apache 2.0. Весы модели доступны на Hugging Face Hub.
Для локального запуска в Python-окружении (включая российские серверы с GPU NVIDIA) достаточно установить пакет и загрузить модель. Ниже приведен пример кода для работы с моделью напрямую:
# pip install structured-data-models
import sdm
model = sdm.models.KumoRelational(device="cuda")
pred = model(
# In-context training table (fkeys/timestamps/targets):
x_context=...,
y_context=...,
# Prediction examples (fkeys/timestamps):
x_query=...,
# Multi-table information for context/prediction entities:
related_context_tables=...,
related_query_tables=...,
)Для развертывания в виде микросервиса можно использовать NVIDIA NIM. В этом случае вы пишете предсказание на PQL, а клиент собирает контекстные примеры и связанные таблицы, отправляя запрос на сервер:
# pip install 'structured-data-models-client[relational]'
import sdm_client
client = sdm_client.SDMClient(url="http://localhost:8001")
query = sdm_client.PredictiveQuery(
# Prediction task in Predictive Query Language (PQL):
"PREDICT COUNT(orders.*, 0, 30, days) FOR EACH users.user_id",
# Multi-table data as pandas DataFrames (keys/links inferred):
data={"users": ..., "orders": ...},
)
pred = client.predict(
# Context examples and related tables for the entities to predict:
query.materialize(indices=[...]),
model=sdm_client.KumoRelational(),
)Код клиента и примеры ноутбуков доступны на GitHub. Это позволяет интегрировать модель в существующие инфраструктуры, включая Databricks и локальные кластеры.
07Что это значит на практике
Внедрение Kumo Relational означает переход от реактивной аналитики к проактивному предсказанию. Для российских компаний, работающих с большими данными, это открывает новые возможности:
- Сокращение Time-to-Value: Вместо недель разработки пайплайнов для каждой новой задачи (например, прогноза оттока для нового продукта) командам ML достаточно написать запрос на PQL. Это democratizes доступ к ML для бизнес-аналитиков.
- Работа с реальными данными: Отказ от «сплющивания» таблиц сохраняет контекст, что особенно важно в сложных доменах, таких как финтех или медицина, где связь между сущностями критична.
- Масштабируемость: Поддержка 500B+ строк и GPU-оптимизация позволяют обрабатывать данные корпоративного уровня без необходимости создания сложных распределенных систем для предобработки.
- Интеграция с агентами: Модель готова к вызовам AI-агентами. Это позволяет создавать автономные системы, которые не только анализируют данные, но и принимают решения на основе прогнозов в реальном времени.
NVIDIA Kumo Relational — это не просто еще одна модель для табличных данных. Это фундаментальный сдвиг в том, как мы взаимодействуем с реляционной информацией. Она стирает грань между базой данных и моделью ИИ, делая предсказательную аналитику такой же простой, как запрос к базе данных. Для разработчиков и исследователей в России это означает доступ к передовым технологиям через открытые исходные коды и веса модели, что позволяет строить конкурентоспособные решения на базе собственных данных.
Источник: Hugging Face ↗