DGI：简单高效的GNN推理系统
机器学习
2022-11-29 v1
摘要
尽管已有许多系统被开发用于训练图神经网络（GNN），但高效的模型推理与评估仍有待解决。例如，使用广泛采用的逐节点方法时，由于邻居爆炸问题（即一个节点会访问其多跳邻居），模型评估可能占用端到端训练过程高达94%的时间。另一方面，逐层推理通过逐层执行推理来避免邻居爆炸问题，使得节点在每一层只需要其一跳邻居。然而，实现逐层推理需要大量的工程工作，因为用户需要手动将GNN模型分解为层进行计算，并将工作负载分割成批次以适应设备内存。在本文中，我们开发了深度图推理（DGI）系统——一个用于简单高效进行GNN模型推理的系统，它能自动将GNN模型的训练代码转换为逐层执行。DGI适用于各种GNN模型和不同类型的推理请求，并支持在无法放入CPU内存的大图上进行核外执行。实验结果表明，在不同的数据集和硬件设置下，DGI始终优于逐层推理，加速比可超过1000倍。
引用
@article{arxiv.2211.15082,
title = {DGI: Easy and Efficient Inference for GNNs},
author = {Peiqi Yin and Xiao Yan and Jinjing Zhou and Qiang Fu and Zhenkun Cai and James Cheng and Bo Tang and Minjie Wang},
journal= {arXiv preprint arXiv:2211.15082},
year = {2022}
}
备注
10 pages, 10 figures