中文

AdaptGear:通过GPU上自适应子图级核加速GNN训练

分布式、并行与集群计算 2023-05-30 v1 机器学习

摘要

图神经网络(GNNs)是从图结构和特征中进行探索与学习的强大工具。因此,实现GNN的高性能执行至关重要。已有工作提出利用输入图中的稀疏性(即低密度)来加速GNN,其使用全图级或块级稀疏格式。我们表明它们未能平衡稀疏性收益与核执行效率。在本文中,我们提出一个名为AdaptGear的新系统,通过利用针对子图级密度特征定制的核来应对优化GNN性能的挑战。同时,我们还提出一种为给定输入图动态选择最优核集合的方法。我们的评估表明,在各类数据集上,AdaptGear相较主流NVIDIA GPU上的当前最优工作可实现显著性能提升,最高达6.49×6.49 \times(平均1.87×1.87 \times)。

关键词

引用

@article{arxiv.2305.17408,
  title  = {AdaptGear: Accelerating GNN Training via Adaptive Subgraph-Level Kernels on GPUs},
  author = {Yangjie Zhou and Yaoxu Song and Jingwen Leng and Zihan Liu and Weihao Cui and Zhendong Zhang and Cong Guo and Quan Chen and Li Li and Minyi Guo},
  journal= {arXiv preprint arXiv:2305.17408},
  year   = {2023}
}