AWB-GCN：一种具有运行时工作负载再平衡机制的图卷积网络加速器
分布式、并行与集群计算
2020-09-14 v9 机器学习
摘要
深度学习系统已成功应用于图像、视频和音频等欧几里得数据。然而在许多应用中，信息及其关系更适合用图来表达。图卷积网络（GCNs）似乎是高效学习图数据结构的有前景的方法，已在许多关键应用中展现出优势。与其他深度学习模态一样，硬件加速至关重要。挑战在于真实世界图通常极其庞大且不平衡，这带来了显著的性能需求与设计挑战。本文提出自动调优工作负载平衡 GCN（AWB-GCN）以加速 GCN 推理。为解决处理真实世界图时的工作负载不平衡问题，提出了三种基于硬件的自动调优技术：动态分布平滑、远程切换和行重映射。特别地，AWB-GCN 持续监测稀疏图模式，在大量处理单元（多达 4K PEs）间动态调整工作负载分布，并在收敛后复用理想配置。使用 Intel D5005 FPGA 和五个常用数据集进行评估。结果表明，4K-PE AWB-GCN 平均可将 PE 利用率显著提升 7.7 倍，并相较 CPU（3255 倍）、GPU（80.3 倍）及先前的 GCN 加速器（5.1 倍）展现出可观的加速比。
引用
@article{arxiv.1908.10834,
title = {AWB-GCN: A Graph Convolutional Network Accelerator with Runtime Workload Rebalancing},
author = {Tong Geng and Ang Li and Runbin Shi and Chunshu Wu and Tianqi Wang and Yanfei Li and Pouya Haghi and Antonino Tumeo and Shuai Che and Steve Reinhardt and Martin Herbordt},
journal= {arXiv preprint arXiv:1908.10834},
year = {2020}
}