面向交通预测的时空图卷积网络知识蒸馏
机器学习
2025-01-03 v4 人工智能
摘要
高效的实时交通预测对于减少交通时间至关重要。为了预测交通状况，我们采用时空图神经网络（ST-GNN）将实时交通数据建模为时序图。尽管其能力强大，但在为真实交通数据提供高效实时预测方面常遇到挑战。认识到实时数据的动态性使得及时预测至关重要，我们采用知识蒸馏（KD）作为增强 ST-GNN 执行时间的解决方案。在本文中，我们引入了一个代价函数，用于使用来自复杂网络（教师）的蒸馏数据训练参数更少的网络（学生），同时保持其精度接近教师。我们利用知识蒸馏，结合教师网络的时空相关性，使学生能够学习教师感知的复杂模式。然而，一个挑战是如何确定学生网络架构而不是随意考虑。为解决此挑战，我们提出了一种算法，利用代价函数计算剪枝分数，解决小型网络架构搜索问题，并联合微调每个剪枝阶段产生的网络。最终，我们在两个真实数据集 PeMSD7 和 PeMSD8 上评估了我们的想法。结果表明，即使只保留 3% 的网络参数，我们的方法也能使学生精度接近教师。
引用
@article{arxiv.2401.11798,
title = {Knowledge Distillation on Spatial-Temporal Graph Convolutional Network for Traffic Prediction},
author = {Mohammad Izadi and Mehran Safayani and Abdolreza Mirzaei},
journal= {arXiv preprint arXiv:2401.11798},
year = {2025}
}