中文

DSformer:一种用于多元时间序列长期预测的双重采样 Transformer

机器学习 2023-08-08 v1

摘要

多元时间序列长期预测旨在预测长时间内数据的变化,可为决策提供参考。尽管基于 transformer 的模型在该领域已取得进展,但它们通常未充分利用多元时间序列的三种特征:全局信息、局部信息和变量相关性。为有效挖掘上述三种特征并建立高精度预测模型,我们提出一种双重采样 transformer(DSformer),其由双重采样(DS)块和时变量注意力(TVA)块组成。首先,DS 块采用下采样和分段采样将原始序列分别转换为关注全局信息和局部信息的特征向量。然后,TVA 块利用时间注意力和变量注意力从不同维度挖掘这些特征向量并提取关键信息。最后,基于并行结构,DSformer 使用多个 TVA 块分别挖掘并整合从 DS 块获得的不同特征。整合后的特征信息被传入基于多层感知机的生成式解码器以实现多元时间序列长期预测。在九个真实世界数据集上的实验结果表明,DSformer 优于八个现有基线。

关键词

引用

@article{arxiv.2308.03274,
  title  = {DSformer: A Double Sampling Transformer for Multivariate Time Series Long-term Prediction},
  author = {Chengqing Yu and Fei Wang and Zezhi Shao and Tao Sun and Lin Wu and Yongjun Xu},
  journal= {arXiv preprint arXiv:2308.03274},
  year   = {2023}
}

备注

Accepted by CIKM 2023 (FULL paper)