通过时空蒸馏实现高效交通预测
机器学习
2025-03-12 v2 计算工程、金融与科学
摘要
图神经网络（GNN）因其通过基于图的消息传递框架学习时空模式表示而在近年来广受关注，已成为交通流预测的热门方法。尽管GNN在处理交通数据方面显示出巨大的潜力，但由于高阶消息传递带来的可扩展性瓶颈，其在实际应用中受到限制。此外，GNN的过平滑问题可能导致随着层数增加导致区域表示难以区分，进而引发性能下降。为解决这些挑战，我们提出了一种新的知识蒸馏范式，称为LightST，通过从高容量教师网络转移空间和时间知识到轻量级学生网络。具体而言，我们引入一种时空知识蒸馏框架，帮助学生网络的MLP捕获图结构的全局时空模式，同时通过自适应知识蒸馏缓解过平滑问题。大量实验验证了LightST在保持卓越准确性的同时，将交通流预测速度提高了5倍到40倍，显著优于当前最先进的时空GNN方法。
引用
@article{arxiv.2501.10459,
title = {Efficient Traffic Prediction Through Spatio-Temporal Distillation},
author = {Qianru Zhang and Xinyi Gao and Haixin Wang and Siu-Ming Yiu and Hongzhi Yin},
journal= {arXiv preprint arXiv:2501.10459},
year = {2025}
}
备注
9 pages