中文

基于局部图极限视角的采样型GNN理论框架

机器学习 2023-10-18 v1 机器学习

摘要

我们提出了一种通过在小的固定尺寸采样子图上训练来在大型输入图上训练图神经网络(GNN)的理论框架。该框架适用于广泛模型,包括流行的采样型GNN,如GraphSAGE和FastGCN。利用图局部极限理论,我们证明在温和假设下,从大型输入图的小样本上训练采样型GNN所学得的参数,与在相同架构的整图上训练结果处于一个ϵ\epsilon邻域内。我们推导了所需样本数、图大小以及训练步数关于ϵ\epsilon的函数界。我们的结果为采样在GNN训练中的使用提供了新颖的理论理解。它们还表明,通过在输入图的小样本上训练GNN,实践者可以更高效地识别和选择最佳模型、超参数及采样算法。我们在大型引文图的节点分类任务上实证说明了我们的结果,观察到在比原图小12×\times的局部子图上训练的采样型GNN取得了与在输入图上训练相当的性能。

关键词

引用

@article{arxiv.2310.10953,
  title  = {A Local Graph Limits Perspective on Sampling-Based GNNs},
  author = {Yeganeh Alimohammadi and Luana Ruiz and Amin Saberi},
  journal= {arXiv preprint arXiv:2310.10953},
  year   = {2023}
}