邻域采样并未学习到相同的图神经网络
机器学习
2025-09-30 v1 机器学习
摘要
邻域采样是大规模图神经网络训练中的一个重要组成部分。它抑制了跨网络层的邻域大小的指数增长，并保持了可行的内存消耗和时间成本。虽然它在实践中已成为标准实现，但其系统性行为却鲜为人知。我们通过使用神经正切核这一工具进行理论分析，该工具基于其无限宽对应物——高斯过程来表征神经网络的（类比）训练动力学。我们研究了几种已建立的邻域采样方法及其对应的后验高斯过程。在有限样本下，这些后验分布各不相同，尽管随着样本量的增加它们会收敛到同一个。此外，作为均方预测误差下界的后验协方差是不可比较的，这与没有一种采样方法占主导地位的观察结果一致。
引用
@article{arxiv.2509.22868,
title = {Neighborhood Sampling Does Not Learn the Same Graph Neural Network},
author = {Zehao Niu and Mihai Anitescu and Jie Chen},
journal= {arXiv preprint arXiv:2509.22868},
year = {2025}
}