Контекст: Взрывной рост фундаментальных моделей
Сентябрь-октябрь 2026 года стали переломными для области Time Series Foundation Models (TSFM). За этот период четыре крупные организации выпустили модели, претендующие на статус универсальных предсказателей: Tabby (Huawei), t0-gamma (The Forecasting Company), Timestral (Mistral) и Morpheus-2.0 (JPMorgan Chase).
Рынок растет экспоненциально: если в 2023 году в arXiv было всего 5 статей с упоминанием TSFM, то к октябрю 2026 года их число достигло 273. Популярность подтверждается загрузками: только Chronos-2 от Amazon скачали 11 млн раз за месяц. Но ключевой вопрос — как разные архитектурные решения влияют на точность в реальных задачах, таких как прогноз нагрузки на электростанции?
Общий рецепт: От сырых данных к токенам
Все четыре модели следуют единому конвейеру обработки, что стирает границы между «старой» и «новой» школой прогнозирования:
- Масштабирование: Использование обратной гиперболической синусоиды (asinh) для нормализации данных. Это позволяет модели работать как с миллионными значениями трафика, так и с долями градуса без доминирования выбросов.
- Патчинг (Patching): Временные ряды разбиваются на блоки. Например, 168 часовых значений (неделя) для Timestral и t0 превращаются в 6 токенов (патчи по 32 шага). Это снижает вычислительную нагрузку Transformer.
- Выходные данные: Прогноз квантилей (например, 10-й, 50-й и 90-й проценты) для оценки неопределенности, а не просто точечное предсказание.
Ключевое различие: Архитектура внимания
Главное отличие кроется в том, как модели обмениваются информацией между различными временными рядами (например, между историей нагрузки и прогнозом температуры). Это критично для задач с ковариатами.
| Модель | Архитектура внимания | Количество слоев | Особенности |
|---|---|---|---|
| Tabby (Huawei) | Channel-independent (изолированный) | Не указано | Прогнозирует каждый ряд отдельно. Не использует внешние драйверы (температуру) напрямую в процессе внимания. Стоимость растет линейно. |
| Timestral (Mistral) | Селективное кросс-серийное | 24 слоя | Каждый 4-й слой (всего 6) позволяет токенам «видеть» другие ряды. Баланс между изоляцией и обменом контекстом. |
| t0-gamma (TFC) | Селективное кросс-серийное | 24 слоя | Каждый 3-й слой (всего 8) является кросс-серийным. Более агрессивный обмен информацией между рядами, чем у Timestral. |
| Morpheus-2.0 (JPMorgan) | Полное смешивание | Не указано | Обмен информацией между рядами происходит в каждом слое. Максимальная интеграция контекста, но выше вычислительная сложность. |
Результаты GIFT-Eval: Кто победил?
Агрегированные баллы GIFT-Eval у топ-3 моделей сопоставимы, но специализация различается. Исследование показало, что улучшения в 2026 году обусловлены не столько архитектурными изысками, сколько качеством синтетических данных и дообучением (fine-tuning).
| Метрика | Лидер | Значение для бизнеса |
|---|---|---|
| Probabilistic CRPS | Timestral | Лучшая оценка вероятностных распределений. Важно для управления рисками. |
| Point-forecast MASE | Morpheus-2.0 | Лучшая точность точечного прогноза. Критично для планирования ресурсов. |
| Pairwise Confidence | Ничья | Статистически значимой разницы в доверительных интервалах не выявлено. |
Почему это важно для внедрения?
Технические преимущества тонут в практических ограничениях. Исследование подчеркивает, что при выборе модели нужно смотреть не только на бенчмарки:
- Лицензии и доступ: Наличие весов модели и тип лицензии (open-source vs проприетарная) часто важнее разницы в 0.1% точности.
- Ковариаты: Если ваша задача требует учета внешних факторов (погода, праздники), модели с кросс-серийным вниманием (Timestral, t0, Morpheus) предпочтительнее Tabby.
- Синтетические данные: Прорыв t0-gamma и Morpheus во многом объясняется использованием собственных генераторов синтетических данных, что снижает риск «утечки» тестовых данных в обучение.
Источник: Towards Data Science ↗