TreeDRNet：一种用于长期时间序列预测的鲁棒深度模型
机器学习
2022-06-27 v1
摘要
各种深度学习模型，尤其是一些最新的基于Transformer的方法，已大幅提升了长期时间序列预测的最优性能。然而，这些基于Transformer的模型随着输入长度延长而出现严重的性能退化，这阻碍了它们利用更长的历史信息。此外，这些方法往往通过增加模型复杂度来处理长期预测中的复杂样本，常导致计算量显著增加且鲁棒性下降（如过拟合）。我们提出了一种名为TreeDRNet的新型神经网络架构，用于更有效的长期预测。受鲁棒回归启发，我们引入双重残差连接结构以使预测更鲁棒。基于Kolmogorov-Arnold表示定理，我们显式引入特征选择、模型集成与树状结构，以进一步利用延长的输入序列，从而提升TreeDRNet的鲁棒性与表征能力。与以往的深度序列预测模型不同，TreeDRNet完全基于多层感知机构建，因此具有很高的计算效率。我们广泛的实证研究表明，TreeDRNet比最先进的方法显著更有效，将多元时间序列的预测误差降低了20%至40%。特别是，TreeDRNet的效率比基于Transformer的方法高10倍以上。代码将很快发布。
引用
@article{arxiv.2206.12106,
title = {TreeDRNet:A Robust Deep Model for Long Term Time Series Forecasting},
author = {Tian Zhou and Jianqing Zhu and Xue Wang and Ziqing Ma and Qingsong Wen and Liang Sun and Rong Jin},
journal= {arXiv preprint arXiv:2206.12106},
year = {2022}
}