NeutronStream:面向图流的滑动窗口动态GNN训练框架
机器学习
2023-12-06 v1 分布式、并行与集群计算
摘要
现有的图神经网络(GNN)训练框架旨在帮助开发者轻松创建高性能的 GNN 实现。然而,大多数现有 GNN 框架假设输入图是静态的,忽略了大多数现实世界中的图是不断演化的。尽管已经出现了许多动态 GNN 模型来从演化图中学习,但这些动态 GNN 的训练过程与传统 GNN 截然不同,因为它需要同时捕获图更新的空间和时间依赖关系。这给设计动态 GNN 训练框架带来了新的挑战。首先,传统的批处理训练方法无法捕获实时的结构演化信息。其次,时间依赖性使得并行训练难以设计。第三,缺乏系统支持来让用户高效实现动态 GNN。在本文中,我们提出了 NeutronStream,一个用于训练动态 GNN 模型的框架。NeutronStream 将输入的动态图抽象为按时间顺序更新的事件流,并使用优化的滑动窗口处理该流,以增量地捕获事件的空间-时间依赖关系。此外,NeutronStream 提供了一个并行执行引擎来解决顺序事件处理的挑战,从而实现高性能。NeutronStream 还集成了支持动态更新的内置图存储结构,并提供了一组易于使用的 API,允许用户表达其动态 GNN。我们的实验结果表明,与最先进的动态 GNN 实现相比,NeutronStream 实现了 1.48X 到 5.87X 的加速,以及 3.97% 的平均精度提升。
引用
@article{arxiv.2312.02473,
title = {NeutronStream: A Dynamic GNN Training Framework with Sliding Window for Graph Streams},
author = {Chaoyi Chen and Dechao Gao and Yanfeng Zhang and Qiange Wang and Zhenbo Fu and Xuecang Zhang and Junhua Zhu and Yu Gu and Ge Yu},
journal= {arXiv preprint arXiv:2312.02473},
year = {2023}
}
备注
12 pages, 15 figures