Tsformer：用于旅游需求预测的时间序列 Transformer
机器学习
2021-07-26 v1
摘要
基于人工智能的方法已广泛应用于旅游需求预测。然而，当前的基于人工智能的方法缺乏处理长期依赖的能力，且大多数缺乏可解释性。最初用于机器翻译的 Transformer 展示出处理长期依赖的卓越能力。基于 Transformer，我们提出了一种具有 Encoder-Decoder 架构的时间序列 Transformer (Tsformer)，用于旅游需求预测。所提出的 Tsformer 使用编码器编码长期依赖，使用解码器捕获短期依赖，并通过一系列注意力掩码机制在突出主导注意力的前提下简化了注意力交互。这些改进使得多头注意力机制能够根据时间关系处理输入序列，从而有助于提高可解释性。此外，Encoder-Decoder 架构的上下文处理能力允许采用待预测日历以增强预测性能。在九寨沟和四姑娘山旅游需求数据集上与其他九种基线方法进行的实验表明，所提出的 Tsformer 在短期和长期旅游需求预测任务中均优于所有基线模型。此外，消融实验证明，采用待预测日历有助于提升所提出 Tsformer 的预测性能。为了获得更好的可解释性，我们进行了注意力权重矩阵可视化。结果表明，Tsformer 在短期预测中关注季节性特征以及临近待预测日的天数。
引用
@article{arxiv.2107.10977,
title = {Tsformer: Time series Transformer for tourism demand forecasting},
author = {Siyuan Yi and Xing Chen and Chuanming Tang},
journal= {arXiv preprint arXiv:2107.10977},
year = {2021}
}