ADFormer：用于乘客需求预测的聚合差分 Transformer

乘客需求预测有助于优化车辆调度，从而提升城市运行效率。近期，基于注意力的方法已被用于充分捕捉时空数据的动态特性。然而，依赖启发式掩码策略的现有方法无法完全适应复杂的时空相关性，阻碍了模型聚焦于正确的上下文。这些工作也忽略了现实世界中存在的高阶相关性。将这些高阶相关性与原始相关性有效整合至关重要。为填补这一空白，我们提出了聚合差分 Transformer（ADFormer），为提升需求预测提供了新见解。具体而言，我们利用差分注意力来捕捉原始空间相关性并实现注意力去噪。同时，我们基于空间和时间的特性设计了不同的聚合策略。随后，将原始相关性与高阶相关性相统一，使模型能够捕捉整体的时空关系。在出租车和自行车数据集上进行的实验证实了我们模型的有效性和效率，展示了其实用价值。代码可在 https://github.com/decisionintelligence/ADFormer 获取。