SENSEi：用于加速GNN的输入敏感编译
机器学习
2024-03-12 v2 性能
摘要
多年来，人们提出了许多框架和优化技术来加速图神经网络（GNNs）。与这些系统中所探索的优化相比，我们观察到GNN计算的不同矩阵重结合会导致新颖的输入敏感性能表现。我们利用这一观察提出SENSEi，这是一个基于GNN计算的不同矩阵重结合来暴露不同的稀疏与稠密矩阵原语组合，并根据输入属性从中选择最佳组合的系统。SENSEi分两个阶段执行：（1）离线编译阶段，枚举所有导致不同稀疏-稠密矩阵组合的有效重结合，并使用输入无关剪枝技术剔除明显无收益的候选；（2）在线运行时系统，探索剩余候选并使用轻量级代价模型，基于给定硬件平台上的输入图和嵌入大小选择最佳重结合。在广泛的配置下，SENSEi在GPU和CPU上分别针对图卷积网络实现了高达和的加速，针对图注意力网络实现了高达和的加速。我们还表明其技术可泛化到GNN变体，包括需要采样的那些。此外，我们表明SENSEi的技术与底层GNN系统无关，并可用于在多样化实现上产生协同改进。
引用
@article{arxiv.2306.15155,
title = {SENSEi: Input-Sensitive Compilation for Accelerating GNNs},
author = {Damitha Lenadora and Vimarsh Sathia and Gerasimos Gerogiannis and Serif Yesil and Josep Torrellas and Charith Mendis},
journal= {arXiv preprint arXiv:2306.15155},
year = {2024}
}