中文

PDFormer:用于交通流预测的 propagation delay-aware 动态长程 transformer

机器学习 2024-03-08 v3

摘要

作为智能交通系统的核心技术,交通流预测有着广泛应用。交通流预测的根本挑战在于有效建模交通数据中复杂的时空依赖关系。时空图神经网络(GNN)模型已成为解决该问题最有前景的方法之一。然而,基于 GNN 的模型在交通预测上有三大局限:i) 多数方法以静态方式建模空间依赖,限制了学习动态城市交通模式的能力;ii) 多数方法仅考虑短程空间信息,无法捕获长程空间依赖;iii) 这些方法忽略了交通系统中位置间交通状况传播存在时间延迟这一事实。为此,我们提出一种新颖的 propagation delay-aware 动态长程 transformer,即 PDFormer,用于精准交通流预测。具体而言,我们设计空间自注意力模块以捕获动态空间依赖。随后引入两个图掩码矩阵,从短程与长程视角突出空间依赖。此外,提出交通延迟感知特征变换模块,赋予 PDFormer 显式建模空间信息传播时间延迟的能力。在六个真实世界公开交通数据集上的大量实验结果表明,我们的方法不仅能取得最先进的性能,还展现出有竞争力的计算效率。此外,我们可视化学习到的时空注意力图,使模型具有高可解释性。

关键词

引用

@article{arxiv.2301.07945,
  title  = {PDFormer: Propagation Delay-Aware Dynamic Long-Range Transformer for Traffic Flow Prediction},
  author = {Jiawei Jiang and Chengkai Han and Wayne Xin Zhao and Jingyuan Wang},
  journal= {arXiv preprint arXiv:2301.07945},
  year   = {2024}
}

备注

9 pages, 5 figures, Accepted by AAAI2023