GCformer:一种用于精确且可扩展长期多元时间序列预测的高效框架
机器学习
2023-08-16 v3
摘要
基于 Transformer 的模型已成为时间序列预测中有前景的工具。然而,这些模型无法对长输入时间序列做出准确预测。一方面,它们未能捕捉时间序列数据中的全局依赖关系;另一方面,长输入序列通常导致模型规模庞大且时间复杂度高。为应对这些局限,我们提出 GCformer,其将用于处理长输入序列的结构化全局卷积分支与用于捕捉近期短信号的基于局部 Transformer 的分支相结合。我们引入了全局卷积核的统一框架,采用三种不同的参数化方法。全局分支中所选的结构化卷积核被专门设计为具有次线性复杂度,从而实现对冗长且含噪输入信号的高效处理。在六个基准数据集上的实证研究表明,GCformer 优于最先进的方法(SOTA),将多元时间序列基准的 MSE 误差降低 4.38%,模型参数量减少 61.92%。特别地,全局卷积分支可作为插件模块提升其他模型性能,平均提升 31.93%,包括多种近期发布的基于 Transformer 的模型。我们的代码公开于 https://github.com/zyj-111/GCformer。
引用
@article{arxiv.2306.08325,
title = {GCformer: An Efficient Framework for Accurate and Scalable Long-Term Multivariate Time Series Forecasting},
author = {YanJun Zhao and Ziqing Ma and Tian Zhou and Liang Sun and Mengni Ye and Yi Qian},
journal= {arXiv preprint arXiv:2306.08325},
year = {2023}
}