STGformer：用于交通预测的高效时空图变换器
机器学习
2024-10-16 v2 人工智能
数据库
摘要
交通预测是智慧城市管理的基石，能够实现高效的资源分配和交通规划。深度学习凭借其捕捉时空数据中复杂非线性模式的能力，已成为交通预测的强大工具。尽管图神经网络（GCN）和基于变换器的模型已显示出潜力，但其计算需求常常阻碍它们应用于现实世界的道路网络，尤其是那些具有大规模时空交互的网络。为了解决这些挑战，我们提出了一种新颖的时空图变换器（STGformer）架构。STGformer 有效地平衡了 GCN 和变换器的优势，能够在保持可管理计算开销的同时，高效地对全局和局部交通模式进行建模。与需要多个注意力层的传统方法不同，STG 注意力块在单层中捕获高阶时空交互，显著降低了计算成本。特别是，与 STAEformer 相比，STGformer 在加州一个拥有 8600 个传感器的道路图上的批量推理中实现了 100 倍的加速和 99.8% 的 GPU 内存使用减少。我们在 LargeST 基准上评估了 STGformer，并证明了其相对于最先进的基于变换器的方法（如 PDFormer 和 STAEformer）的优越性，这突显了 STGformer 通过克服现有方法的计算和内存限制来革新交通预测的潜力，使其成为未来时空建模任务的一个有前景的基础。
引用
@article{arxiv.2410.00385,
title = {STGformer: Efficient Spatiotemporal Graph Transformer for Traffic Forecasting},
author = {Hongjun Wang and Jiyuan Chen and Tong Pan and Zheng Dong and Lingyu Zhang and Renhe Jiang and Xuan Song},
journal= {arXiv preprint arXiv:2410.00385},
year = {2024}
}