AdaptGear:通过GPU上自适应子图级核加速GNN训练
分布式、并行与集群计算
2023-05-30 v1 机器学习
摘要
图神经网络(GNNs)是从图结构和特征中进行探索与学习的强大工具。因此,实现GNN的高性能执行至关重要。已有工作提出利用输入图中的稀疏性(即低密度)来加速GNN,其使用全图级或块级稀疏格式。我们表明它们未能平衡稀疏性收益与核执行效率。在本文中,我们提出一个名为AdaptGear的新系统,通过利用针对子图级密度特征定制的核来应对优化GNN性能的挑战。同时,我们还提出一种为给定输入图动态选择最优核集合的方法。我们的评估表明,在各类数据集上,AdaptGear相较主流NVIDIA GPU上的当前最优工作可实现显著性能提升,最高达(平均)。
引用
@article{arxiv.2305.17408,
title = {AdaptGear: Accelerating GNN Training via Adaptive Subgraph-Level Kernels on GPUs},
author = {Yangjie Zhou and Yaoxu Song and Jingwen Leng and Zihan Liu and Weihao Cui and Zhendong Zhang and Cong Guo and Quan Chen and Li Li and Minyi Guo},
journal= {arXiv preprint arXiv:2305.17408},
year = {2023}
}