ADMFormer:一种具有时变遮蔽空间注意力的自适应分解Transformer用于交通预测
人工智能
2026-05-26 v1
摘要
准确的交通预测对于智能交通系统至关重要,支持广泛的实际应用。然而,这仍然具有两个关键挑战:(1)交通序列包含异构的时序模式,其中稳定的周期性规律与事件驱动的波动并存。现有方法常在统一的表征中处理它们,限制了其捕获细粒度时序动力学的能力。(2)节点之间的空间依赖关系本质上是动态且稀疏的,而密集的全配对注意力常会引入冗余的相互作用并放大噪声。为此,我们提出ADMFormer,一种具有时变遮蔽空间注意力的自适应分解Transformer。具体而言,ADMFormer首先采用时-节点自适应门控机制将交通信号解耦为主导规律和随时间和节点变化的残差波动。随后设计双分支时序模块,以分别捕获这两种分解组件的全局周期依赖性和高频不规则变化。此外,ADMFormer引入时变遮蔽空间注意力,基于实时交通状态对空间相互作用进行稀疏化,从而有效地保留动态和有信息的依赖关系。广泛的在四个真实数据集上的实验表明,ADMFormer实现了最先进的性能。
关键词
引用
@article{arxiv.2605.25543,
title = {ADMFormer: An Adaptive-Decomposition Transformer with Time-Varying Masked Spatial Attention for Traffic Forecasting},
author = {Ruiwen Gu and Qitai Tan and Yahao Liu and Xiao-Ping Zhang},
journal= {arXiv preprint arXiv:2605.25543},
year = {2026}
}