TSMixer：一种用于时间序列预测的全 MLP 架构
机器学习
2023-09-12 v5 人工智能
摘要
现实世界的时间序列数据集通常是多变量且具有复杂动态。为捕捉这种复杂性，诸如基于循环或注意力的序列深度学习模型等高容量架构已变得流行。然而，近期工作表明，在多个常用学术基准上，简单的单变量线性模型可以胜过此类深度学习模型。在扩展它们的基础上，本文研究了线性模型用于时间序列预测的能力，并提出 Time-Series Mixer（TSMixer），一种通过堆叠多层感知机（MLPs）设计的新型架构。TSMixer 基于沿时间和特征维度混合操作以高效提取信息。在流行学术基准上，易于实现的 TSMixer 可与利用特定基准归纳偏置的专用最先进模型相媲美。在具有挑战性且大规模的 M5 基准（一个真实零售数据集）上，TSMixer 表现出优于最先进替代方案的性能。我们的结果强调了高效利用跨变量与辅助信息对提升时间序列预测性能的重要性。我们给出多种分析以阐明 TSMixer 的能力。TSMixer 中采用的设计范式有望为基于深度学习的时间序列预测开辟新视野。实现代码见 https://github.com/google-research/google-research/tree/master/tsmixer
引用
@article{arxiv.2303.06053,
title = {TSMixer: An All-MLP Architecture for Time Series Forecasting},
author = {Si-An Chen and Chun-Liang Li and Nate Yoder and Sercan O. Arik and Tomas Pfister},
journal= {arXiv preprint arXiv:2303.06053},
year = {2023}
}