面向多元时间序列预测的多尺度 Transformer 金字塔网络
机器学习
2024-07-17 v1
摘要
多元时间序列（MTS）预测涉及对历史记录中时间依赖性的建模。Transformer 因其捕捉长期依赖的能力，在 MTS 预测中展现出卓越性能。然而，先前工作局限于以固定尺度或指数增长（多为以 2 为底）的多尺度建模时间依赖。这一局限阻碍了它们捕捉多样季节性的有效性，例如小时与日模式。本文中，我们引入一种维度不变嵌入技术，捕捉短期时间依赖并将 MTS 数据投影到更高维空间，同时保留 MTS 数据中时间步与变量的维度。此外，我们提出一种新颖的多尺度 Transformer 金字塔网络（MTPNet），专门设计用于有效捕捉无约束多尺度下的时间依赖。预测由来自不同尺度 transformer 的多尺度潜在表示推断得出。在九个基准数据集上的大量实验表明，所提 MTPNet 优于近期 SOTA 方法。
引用
@article{arxiv.2308.11946,
title = {Multi-scale Transformer Pyramid Networks for Multivariate Time Series Forecasting},
author = {Yifan Zhang and Rui Wu and Sergiu M. Dascalu and Frederick C. Harris},
journal= {arXiv preprint arXiv:2308.11946},
year = {2024}
}