InferTurbo：一种用于加速图神经网络在巨型图上全图推理的可扩展系统
机器学习
2023-07-04 v1
摘要
GNN 推理是一项不平凡的任务，尤其是在具有巨型图的工业场景中，其面临三大挑战：针对巨型图全图推理的可扩展性、由随机加速策略（如采样）引起的不一致性，以及严重的冗余计算问题。为应对上述挑战，我们提出了一种名为 InferTurbo 的可扩展系统，以加速工业场景中的 GNN 推理任务。受“像顶点一样思考”理念的启发，我们提出了一种类 GAS（Gather-Apply-Scatter，收集-应用-散播）模式来描述 GNN 推理的计算范式与数据流。GNN 的计算以迭代方式表达，其中顶点通过入边收集消息，并利用这些消息前向传播关联的 GNN 层来更新自身状态信息，然后通过出边将更新后的信息发送给其他顶点。遵循该模式，所提出的 InferTurbo 可使用可替换后端（如批处理系统或图计算系统）构建。此外，InferTurbo 引入了影子节点与部分收集等策略来处理大度节点，以实现更好的负载均衡。借助 InferTurbo，GNN 推理可在全图上分层进行，无需采样且无冗余计算。实验结果表明，我们的系统对于包含许多相邻边的枢纽节点的图上的推理任务具有鲁棒性和高效性。同时，与传统推理流水线相比，该系统获得了显著的性能提升，并且能够在 2 小时内完成对包含数百亿节点和数千亿边的图的 GNN 推理任务。
引用
@article{arxiv.2307.00228,
title = {InferTurbo: A Scalable System for Boosting Full-graph Inference of Graph Neural Network over Huge Graphs},
author = {Dalong Zhang and Xianzheng Song and Zhiyang Hu and Yang Li and Miao Tao and Binbin Hu and Lin Wang and Zhiqiang Zhang and Jun Zhou},
journal= {arXiv preprint arXiv:2307.00228},
year = {2023}
}
备注
Accepted by ICDE 2023