BasisFormer：基于注意力且具有可学习与可解释基的时间序列预测
机器学习
2024-01-19 v2
摘要
基已成为现代基于深度学习的时间序列预测模型不可或缺的一部分，因其能够充当特征提取器或未来参考。为发挥作用，基必须针对特定时间序列数据集定制，并与集中每个时间序列呈现明显相关性。然而，当前最先进的方法在同时满这两方面要求上能力有限。为应对此挑战，我们提出BasisFormer，一种利用可学习与可解释基的端到端时间序列预测架构。该架构包含三个组件：首先，我们通过自适应自监督学习获取基，其将时间序列的历史与未来部分视为两种不同视图并采用对比学习。接着，我们设计Coef模块，通过双向交叉注意力计算历史视图中时间序列与基的相似系数。最后，我们提出Forecast模块，基于相似系数在未来视图中选择并整合基，从而得到准确的未来预测。通过在六个数据集上的广泛实验，我们证明BasisFormer在单变量与多变量预测任务上分别优于先前最先进方法11.04%与15.78%。代码见：\url{https://github.com/nzl5116190/Basisformer}
引用
@article{arxiv.2310.20496,
title = {BasisFormer: Attention-based Time Series Forecasting with Learnable and Interpretable Basis},
author = {Zelin Ni and Hang Yu and Shizhan Liu and Jianguo Li and Weiyao Lin},
journal= {arXiv preprint arXiv:2310.20496},
year = {2024}
}
备注
NeurIPS 2023(poster)