时间序列即价值五位专家：面向交通流量预测的异构专家混合模型
人工智能
2024-09-27 v1
摘要
准确的交通预测面临着重大挑战，迫切需要深入理解时间和空间线索以及它们在多个变量之间的复杂相互作用。最近的交通预测系统进展主要归功于复杂的序列中心模型的发展。然而，现有方法通常在每个时间步骤上嵌入多个变量和空间关系，这可能阻碍有效的变量中心学习，最终导致传统交通预测任务中的性能下降。为克服这些限制，我们引入了变量中心建模技术和先验知识中心建模技术。具体而言，我们提出了用于交通流量预测的异构专家混合模型（TITAN）。TITAN最初由三个专注于序列中心建模的专家组成。随后，我们设计了一种低秩自适应方法，使TITAN能够同时实现变量中心建模。此外，我们采用先验知识中心建模策略来监督门控过程，以确保精确的路由。在两个公共交通网络数据集METR-LA和PEMS-BAY上的实验表明，TITAN有效捕获了变量中心依赖关系，同时确保了准确的路由。因此，它在所有评估指标上都实现了从约4.37%到11.53%的提升，相较于之前的最先进（SOTA）模型。该代码已公开于\href{https://github.com/sqlcow/TITAN}{https://github.com/sqlcow/TITAN}。
引用
@article{arxiv.2409.17440,
title = {A Time Series is Worth Five Experts: Heterogeneous Mixture of Experts for Traffic Flow Prediction},
author = {Guangyu Wang and Yujie Chen and Ming Gao and Zhiqiao Wu and Jiafu Tang and Jiabi Zhao},
journal= {arXiv preprint arXiv:2409.17440},
year = {2024}
}
备注
20 pages, 4 figures