中文

LW-GCN:一种基于FPGA的轻量级图卷积网络加速器

机器学习 2021-11-08 v1 硬件体系结构 分布式、并行与集群计算

摘要

图卷积网络(GCNs)的提出是为了有效处理非欧几里得图数据。然而,GCN在计算与内存访问中会产生大量不规则性,阻碍了传统神经网络加速器的高效使用。此外,现有的专用GCN加速器需要高内存容量,难以在资源受限的边缘设备上实现。在本工作中,我们提出LW-GCN,一种基于FPGA的轻量级加速器,采用软硬件协同设计流程来解决GCN推理中计算与内存访问的不规则性。LW-GCN将主要GCN操作分解为稀疏-稠密矩阵乘法(SDMM)与稠密矩阵乘法(DMM)。我们提出一种新颖的压缩格式以平衡处理单元(PEs)间的工作负载并防止数据冲突。此外,我们应用数据量化与工作负载分块,并将GCN推理的SDMM与DMM均映射到资源受限硬件上的统一架构。在Xilinx Kintex-7 FPGA上使用三个流行数据集对GCN和GraphSAGE进行了评估。与现有CPU、GPU及最先进的基于FPGA的加速器相比,LW-GCN分别将延迟降低了多达60倍、12倍和1.7倍,并将能效提高了多达912倍、511倍和3.87倍。此外,与NVIDIA最新边缘GPU Jetson Xavier NX相比,LW-GCN分别实现了32倍和84倍的加速与节能。

关键词

引用

@article{arxiv.2111.03184,
  title  = {LW-GCN: A Lightweight FPGA-based Graph Convolutional Network Accelerator},
  author = {Zhuofu Tao and Chen Wu and Yuan Liang and Lei He},
  journal= {arXiv preprint arXiv:2111.03184},
  year   = {2021}
}

备注

17 pages, 9 figures