利用 Transformer 学习动态分层交通时空特征
人工智能
2021-04-13 v1
摘要
交通预测是智能交通系统 (ITS) 中不可或缺的一部分，而长期全网精准交通速度预测是最具挑战性的任务之一。近来，深度学习方法在该领域日益流行。由于交通数据在物理上与路网相关联，多数已有模型将其视为时空图建模问题并采用基于图卷积网络 (GCN) 的方法。这些基于 GCN 的模型高度依赖预定义且固定的邻接矩阵来反映空间依赖性。然而，预定义固定邻接矩阵在反映交通流实际依赖关系上存有局限。本文提出一种新颖模型 Traffic Transformer，用于时空图建模与长期交通预测，以克服上述限制。Transformer 是自然语言处理 (NLP) 中最流行的框架。通过将其适配于时空问题，Traffic Transformer 借助多头注意力与掩码多头注意力机制，由数据动态分层提取时空特征，并融合这些特征用于交通预测。此外，分析注意力权重矩阵可发现路网中有影响的部分，从而让我们更好地理解交通网络。在公开交通网络数据集及我们自行生成的真实世界交通网络数据集上的实验结果表明，所提模型优于当前最优方法。
引用
@article{arxiv.2104.05163,
title = {Learning dynamic and hierarchical traffic spatiotemporal features with Transformer},
author = {Haoyang Yan and Xiaolei Ma},
journal= {arXiv preprint arXiv:2104.05163},
year = {2021}
}