少即是多:基于轻量采样导向 MLP 结构的快速多元时间序列预测
机器学习
2022-07-05 v1 人工智能
摘要
多元时间序列预测在金融、交通、能源和医疗等众多领域有着广泛应用。为捕捉复杂的时间模式,大量研究基于 RNN、GNN 和 Transformer 的多种变体设计了复杂的神经网络架构。然而,复杂模型往往计算代价高昂,在应用于大规模真实数据集时面临训练与推理效率的严峻挑战。本文提出 LightTS,一种仅基于简单 MLP 结构的轻量深度学习架构。LightTS 的核心思想是在两种精心设计的下采样策略(包括间隔采样与连续采样)之上应用基于 MLP 的结构,其灵感源于一个关键事实:对时间序列下采样通常保留其大部分信息。我们在八个广泛使用的基准数据集上进行了充分实验。与现有最先进(SOTA)方法相比,LightTS 在五个数据集上表现更优,在其余数据集上表现相当。此外,LightTS 高效性突出,在最大基准数据集上所使用的 FLOPS 不足先前 SOTA 方法的 5%。并且,LightTS 具有鲁棒性,在长序列预测任务中预测准确率的方差远小于先前 SOTA 方法。
引用
@article{arxiv.2207.01186,
title = {Less Is More: Fast Multivariate Time Series Forecasting with Light Sampling-oriented MLP Structures},
author = {Tianping Zhang and Yizhuo Zhang and Wei Cao and Jiang Bian and Xiaohan Yi and Shun Zheng and Jian Li},
journal= {arXiv preprint arXiv:2207.01186},
year = {2022}
}
备注
datasets and code: https://tinyurl.com/5993cmus