LSTTN：一种基于长短期Transformer的时空神经网络用于交通流预测
机器学习
2024-03-26 v1 人工智能
社会与信息网络
摘要
准确的交通预测是智能交通系统中的一个基本问题，通过时空图神经网络（STGNNs）学习包含关键信息的长程交通表征是当前交通流预测模型的基本假设。然而，由于结构限制，现有的STGNNs只能利用短程交通流数据；因此，模型无法充分学习交通流中的复杂趋势和周期性特征。此外，从长历史交通序列中提取关键时间信息并获得紧凑表征也颇具挑战。为解决上述问题，我们提出了一种新颖的LSTTN（Long-Short Term Transformer-based Network）框架，全面考虑历史交通流中的长期和短期特征。首先，我们采用掩码子序列Transformer，以预训练方式从一小部分未掩码子序列及其时间上下文中推断掩码子序列的内容，迫使模型从长历史序列中高效学习压缩且具上下文信息的子序列时间表征。然后，基于学习到的表征，通过堆叠的一维膨胀卷积层提取长期趋势，并通过动态图卷积层提取周期性特征。针对时间步级预测的困难，LSTTN采用短期趋势提取器来学习细粒度的短期时间特征。最后，LSTTN融合长期趋势、周期性特征和短期特征以获得预测结果。在四个真实世界数据集上的实验表明，在60分钟超前长期预测中，LSTTN模型相较于基线模型实现了最低5.63%、最高16.78%的提升。源代码可在https://github.com/GeoX-Lab/LSTTN获取。
引用
@article{arxiv.2403.16495,
title = {LSTTN: A Long-Short Term Transformer-based Spatio-temporal Neural Network for Traffic Flow Forecasting},
author = {Qinyao Luo and Silu He and Xing Han and Yuhan Wang and Haifeng Li},
journal= {arXiv preprint arXiv:2403.16495},
year = {2024}
}
备注
15 pages, 10 figures, 6 tables