GNNAdvisor：一种自适应且高效的 GPU 上 GNN 加速运行时系统
分布式、并行与集群计算
2021-06-22 v3
摘要
作为基于图的深度学习的新兴趋势，图神经网络（GNNs）因其生成高质量节点特征向量（嵌入）的能力而表现出色。然而，现有的一刀切 GNN 实现不足以跟上演进中的 GNN 架构、不断增长的图规模以及多样的节点嵌入维度。为此，我们提出 \textbf{GNNAdvisor}，一种自适应且高效的运行时系统，用于在 GPU 平台上加速各类 GNN 工作负载。首先，GNNAdvisor 从 GNN 模型和输入图中探索并识别出若干与性能相关的特征，并将其用作 GNN 加速的新驱动力。其次，GNNAdvisor 实现了一种新颖且高效的二维工作负载管理，专为 GNN 计算定制，以在不同应用设置下提升 GPU 利用率与性能。第三，GNNAdvisor 利用 GPU 存储层次结构进行加速，根据 GPU 存储结构与 GNN 工作负载的特性优雅地协调 GNN 的执行。此外，为实现自动运行时优化，GNNAdvisor 引入了一个轻量级分析模型以进行有效设计参数搜索。大量实验表明，在各类数据集的主流 GNN 架构上，GNNAdvisor 优于最先进的 GNN 计算框架，如 Deep Graph Library（平均快 ）和 NeuGraph（最高快 ）。
引用
@article{arxiv.2006.06608,
title = {GNNAdvisor: An Adaptive and Efficient Runtime System for GNN Acceleration on GPUs},
author = {Yuke Wang and Boyuan Feng and Gushu Li and Shuangchen Li and Lei Deng and Yuan Xie and Yufei Ding},
journal= {arXiv preprint arXiv:2006.06608},
year = {2021}
}