GCoD：通过专用算法与加速器协同设计的图卷积网络加速
硬件体系结构
2025-03-11 v3 机器学习
摘要
图卷积网络 (GCNs) 已成为最先进的图学习模型。然而，在大型图数据集上推断 GCNs 可能极具挑战，限制了其在大型真实图上的应用，并阻碍了对更深更复杂 GCN 图的探索。这是因为真实图可能极其庞大且稀疏。此外，GCN 的节点度往往遵循幂律分布，因而具有高度不规则的邻接矩阵，导致数据处理与数据搬移效率极低，从而大幅限制可实现的 GCN 加速效率。为此，本文提出名为 GCoD 的 GCN 算法与加速器协同设计框架，可大幅缓解上述 GCN 不规则性并提升 GCN 推断效率。具体而言，在算法层面，GCoD 集成了分治式 GCN 训练策略，在不损模型精度下使图的局部邻域极化得更稠密或更稀疏，从而得到（大多）仅具两级工作量的图邻接矩阵，并享有大幅增强的规则性从而易于加速。在硬件层面，我们进一步开发了专用双管加速器，以分离引擎处理上述稠密与稀疏工作量，进一步提升总体利用率与加速效率。大量实验与消融研究证实，我们的 GCoD 持续减少片外访问次数，相较 CPU、GPU 及包括 HyGCN 与 AWB-GCN 在内的现有最优 GCN 加速器，分别实现 15286倍、294倍、7.8倍与 2.5倍 加速，同时保持甚至提升任务精度。代码见 https://github.com/RICE-EIC/GCoD。
引用
@article{arxiv.2112.11594,
title = {GCoD: Graph Convolutional Network Acceleration via Dedicated Algorithm and Accelerator Co-Design},
author = {Haoran You and Tong Geng and Yongan Zhang and Ang Li and Yingyan Celine Lin},
journal= {arXiv preprint arXiv:2112.11594},
year = {2025}
}
备注
Published as a conference paper at HPCA 2022