GCoDE：通过架构-映射协同搜索实现 GNN 的高效设备-边缘协同推理
机器学习
2025-12-16 v1 人工智能
摘要
图神经网络（GNNs）已成为最先进的图学习方法。然而，在边缘设备上实现高效 GNN 推理面临重大挑战，限制了其在真实边缘场景中的应用。这是由于 GNN 的高计算成本以及边缘设备有限的硬件资源，阻止了 GNN 推理满足实时性和能效要求。作为一种新兴范式，设备-边缘协同推理展现出提升推理效率和降低边缘设备能耗的潜力。尽管具有潜力，但关于 GNN 设备-边缘协同推理的研究仍然稀缺，我们的发现表明传统模型划分方法对 GNN 无效。为解决此问题，我们提出 GCoDE——首个面向 GNN 架构-映射协同设计与设备-边缘层次部署的自动框架。通过将设备通信过程抽象为显式操作，GCoDE 在统一设计空间中融合架构与映射方案以进行联合优化。此外，GCoDE 的系统性能感知能力使其能够有效评估多样化异构系统中的架构效率。通过分析各种 GNN 操作的能耗，GCoDE 引入了一种能量预测方法，提升了能量评估准确性并识别能效解决方案。利用基于约束的随机搜索策略，GCoDE 在 1.5 小时内找到最优解，平衡准确性与效率。此外，GCoDE 中集成的协同推理引擎实现了 GNN 协同推理的高效部署与执行。实验结果表明，GCoDE 相比现有方法在多样化应用和系统配置下可实现高达 44.9 倍的加速和 98.2% 的能耗降低。
引用
@article{arxiv.2512.11856,
title = {GCoDE: Efficient Device-Edge Co-Inference for GNNs via Architecture-Mapping Co-Search},
author = {Ao Zhou and Jianlei Yang and Tong Qiao and Yingjie Qi and Zhi Yang and Weisheng Zhao and Chunming Hu},
journal= {arXiv preprint arXiv:2512.11856},
year = {2025}
}
备注
accepted by IEEE Transactions on Computers