Slice-and-Forge：更好地利用缓存的图卷积网络加速器
机器学习
2023-01-25 v1 硬件体系结构
分布式、并行与集群计算
摘要
图卷积网络(GCNs)正变得日益流行，因为它们能处理先前的深度神经网络难以支持的多种数据格式。设计GCN硬件加速器的一个关键挑战是其数据访问模式的巨大规模与随机性，这极大降低了有限片上缓存的有效性。旨在通过缓解不规则数据访问来提升缓存有效性的先前研究常采用传统图处理应用中的顶点分块技术。尽管这些方法能有效提升缓存效率，但它们往往对分块配置敏感，最优设置严重依赖于目标输入数据集。此外，现有方案需要通过试错进行手动调优或依赖次优的分析模型。在本文中，我们提出Slice-and-Forge(SnF)，一种用于GCN的高效硬件加速器，极大提升了有限片上缓存的有效性。SnF选择一种名为特征切片的分块策略，将特征切分为垂直切片并在执行的最外层循环中处理。这一特定选择导致对不规则图数据在多个轮次上重复相同的计算模式。利用此类重复性，SnF动态调优其块大小。我们的实验结果显示，在多引擎设定下SnF相较先前工作可达到1.73倍的几何平均性能提升，在小规模设定下可达到1.46倍的几何平均性能提升，且无需离线分析。
引用
@article{arxiv.2301.09813,
title = {Slice-and-Forge: Making Better Use of Caches for Graph Convolutional Network Accelerators},
author = {Mingi Yoo and Jaeyong Song and Hyeyoon Lee and Jounghoo Lee and Namhyung Kim and Youngsok Kim and Jinho Lee},
journal= {arXiv preprint arXiv:2301.09813},
year = {2023}
}
备注
Published at PACT'22