STJLA:一种用于交通预测的多上下文感知时空联合线性注意力网络
机器学习
2021-12-07 v1
摘要
随着交通大数据的增长,交通预测逐渐引起研究人员的关注。因此,如何挖掘交通数据中复杂的时空相关性以更准确地预测交通状况成为一个难题。以往工作将图卷积网络(GCNs)和自注意力机制与深度时间序列模型(如循环神经网络)结合,分别捕捉时空相关性,忽略了时间与空间之间的跨维度关联。此外,GCNs 受限于过平滑问题,自注意力受限于二次复杂度问题,导致 GCNs 缺乏全局表示能力,且自注意力低效地捕捉全局空间依赖。本文提出一种用于交通预测的深度学习新模型,称为多上下文感知时空联合线性注意力(STJLA),其将线性注意力应用于时空联合图,以高效捕捉所有时空节点间的全局依赖。更具体地,STJLA 利用静态结构上下文和动态语义上下文来提升模型性能。基于 node2vec 和 one-hot 编码的静态结构上下文丰富了时空位置信息。此外,基于多头扩散卷积网络的动态空间上下文增强了局部空间感知能力,基于 GRU 的动态时间上下文分别稳定了线性注意力的序列位置信息。在英格兰和 PEMSD7 两个真实交通数据集上的实验表明,我们的 STJLA 在 MAE 指标上比最先进的基线分别实现高达 9.83% 和 3.08% 的精度提升。
引用
@article{arxiv.2112.02262,
title = {STJLA: A Multi-Context Aware Spatio-Temporal Joint Linear Attention Network for Traffic Forecasting},
author = {Yuchen Fang and Yanjun Qin and Haiyong Luo and Fang Zhao and Chenxing Wang},
journal= {arXiv preprint arXiv:2112.02262},
year = {2021}
}
备注
12 pages