GLISP:一个利用图固有结构特性的可扩展GNN学习系统
机器学习
2024-01-09 v1
摘要
作为建模图数据的强大工具,图神经网络(GNNs)在学术界和工业界都受到了越来越多的关注。然而,由于工业级图数据规模巨大且拓扑结构复杂,在其上部署 GNN 是出了名的困难。本文提出了 GLISP,一个基于采样的面向工业级图的 GNN 学习系统。通过利用图的固有结构特性,如幂律分布和数据局部性,GLISP 解决了图学习过程不同阶段出现的可扩展性和性能问题。GLISP 由三个核心组件构成:图划分器、图采样服务和图推理引擎。图划分器采用所提出的顶点切割图划分算法 AdaDNE,为幂律图产生均衡的划分,这对基于采样的 GNN 系统至关重要。图采样服务采用负载均衡设计,允许高度顶点的单跳采样请求由多个服务器处理。结合内存高效的数据结构,有效提升了效率和可扩展性。图推理引擎将 层 GNN 拆分为 个切片,并将每个切片产生的顶点嵌入缓存在数据局部性感知的混合缓存系统中以供重用,从而完全消除了由图的数据依赖引起的冗余计算。大量实验表明,GLISP 在训练和推理任务上相比现有 GNN 系统分别实现了高达 和 的加速,并且能够在有限资源下扩展到拥有超过 100 亿个顶点和 400 亿条边的图。
引用
@article{arxiv.2401.03114,
title = {GLISP: A Scalable GNN Learning System by Exploiting Inherent Structural Properties of Graphs},
author = {Zhongshu Zhu and Bin Jing and Xiaopei Wan and Zhizhen Liu and Lei Liang and Jun zhou},
journal= {arXiv preprint arXiv:2401.03114},
year = {2024}
}