В мире машинного обучения мы привыкли к классическому сценарию: сбор данных, очистка, выбор модели, долгое и часто болезненное обучение (training), тонкая настройка гиперпараметров и, наконец, развёртывание. Этот процесс требует значительных вычислительных ресурсов, экспертизы и времени. Однако архитектура трансформеров, доказавшая свою эффективность в обработке естественного языка (NLP), начала революционизировать и работу с табличными данными. NVIDIA представила библиотеку Structured Data Models (SDM), которая позволяет использовать предварительно обученные фундаментальные модели (foundation models) для решения задач прогнозирования на таблицах без какого-либо этапа обучения.
Это не просто ещё одна библиотека для классификации. Это парадигмальный сдвиг. Вместо того чтобы обучать модель на ваших данных, вы предоставляете ей набор уже размеченных примеров (контекст) и новые строки, для которых нужно сделать предсказание (запрос). Модель использует механизм in-context learning (обучение в контексте), чтобы проанализировать паттерны в предоставленных примерах и выдать вероятности или распределение предсказаний за один проход (forward pass). Это похоже на то, как вы объясняете задачу коллеге, показывая несколько примеров, и он сразу понимает, что делать, не проходя переобучения.
В этой статье мы подробно разберем, как работает эта технология, какие модели входят в экосистему NVIDIA, как правильно подготовить данные (особенно типы данных и временные метки), как оптимизировать скорость предсказаний через кэширование и как интерпретировать результаты регрессии. Мы также укажем на скрытые ловушки, которые могут привести к ошибкам, если их игнорировать.
011. Установка и первые шаги: обход технических ловушек
Перед тем как приступить к созданию моделей, необходимо правильно настроить окружение. Библиотека structured-data-models на момент написания материала доступна через GitHub, так как версия в PyPI является лишь заглушкой. Важно фиксировать версию через конкретный коммит, чтобы избежать проблем с совместимостью.

Самая первая и коварная ловушка возникает при установке зависимостей, связанных с pyg-lib (библиотека для работы с графами, необходимая для реляционных моделей). Окружение PyTorch имеет сложную систему версий. Колеса (wheels) для pyg-lib публикуются для каждой минорной версии PyTorch, но сама библиотека SDM при ошибке импорта пытается построить URL, используя точную патч-версию, которая часто оказывается пустой страницей. Если следовать автоматическому совету библиотеки, установка завершится неудачей.
Решение заключается в том, чтобы вручную собрать URL индекса, используя только мажорную и минорную версии PyTorch. Ниже приведен код, который корректно обрабатывает эту ситуацию, определяя архитектуру (CPU или CUDA) и формируя правильную ссылку для установки.
import subprocess
import sys
import torch
# Устанавливаем SDM из GitHub
subprocess.run(
[sys.executable, "-m", "pip", "install", "-q",
"git+https://github.com/NVIDIA/structured-data-models.git@b982fbf4188ea8db17249fe81338723106100b63"],
check=True
)
# Обход проблемы с pyg-lib: сборка URL из MAJOR.MINOR.0
major, minor = torch.__version__.split("+")[0].split(".")[:2]
flavour = "cpu" if torch.version.cuda is None else "cu" + torch.version.cuda.replace(".", "")
PYG_INDEX = f"https://data.pyg.org/whl/torch-{major}.{minor}.0+{flavour}.html"
subprocess.run(
[sys.executable, "-m", "pip", "install", "-q", "pyg-lib", "-f", PYG_INDEX],
check=True
)После установки вы увидите список доступных моделей. Важно отметить, что SDM оборачивает несколько различных архитектур:

- TabICLv2: Модель для табличных данных с использованием in-context learning. Размер весов около 110 МБ на задачу, лицензия BSD-3.
- KumoTabular: Семейство моделей (small, medium, large) для табличных данных. Small версия ~110 МБ, Large ~855 МБ. Лицензия OpenMDW.
- KumoRelational: Модель для работы с целыми реляционными базами данных. Размер ~120 МБ, лицензия OpenMDW.
- TabFM и TimesFM: Модели от Google для табличных данных и временных рядов. Они значительно тяжелее (6.5 ГБ и 1.3 ГБ соответственно) и имеют некоммерческие лицензии, поэтому в данном руководстве они не используются.
022. Типизированные таблицы: как SDM понимает ваши данные
В основе работы библиотеки лежит класс TableTensor — подкласс PyTorch тензоров, который хранит данные, сгруппированные по семантическим типам: числовые, категориальные, временные метки (datetime), текст и идентификаторы (ID). Ключевым компонентом является функция infer_stypes, которая автоматически определяет тип каждой колонки.
Однако автоматическое определение типов может быть обманчивым. Рассмотрим пример с таблицей заявок в службу поддержки. По умолчанию, если в колонке "comment" (комментарий) есть уникальный текст в каждой строке, алгоритм может ошибочно классифицировать её как категориальную с сотнями уровней, или же колонку "ticket_id" (номер заявки) может принять за числовую особенность. Это приведет к тому, что модель попытается использовать эти данные как числовые признаки, что бессмысленно и вредно для качества.
Чтобы исправить это, необходимо явно указать параметры text='infer' и id='infer' при вызове infer_stypes. Это за
Источник: MarkTechPost ↗
