测试时的范围专家混合:通过浅层变体泛化更深的图神经网络
机器学习
2025-11-13 v4 社会与信息网络
摘要
异构图,其中 dissimilar 节点倾向于相互连接,给图神经网络(GNN)带来挑战。增加 GNN 深度可以扩大范围(即感受野), potentially 从更高阶的邻域中找到同质性。然而,GNN 在深度增加时会出现性能恶化。尽管基于表达力的更深 GNN 仅比其浅层变体实现了有限的改进。通过理论和实证分析,我们系统性地展示了随着深度增加,GNN 泛化偏好在不同同质性水平的节点之间发生转变。这在不同深度 GNN 模型的泛化模式之间产生了差异。基于这些发现,我们提出在保持高表达力的同时通过在测试时使用范围专家混合(Moscat)来提高更深 GNN 的泛化能力。实验结果表明,Moscat 可与各种 GNN 在广泛数据集上灵活工作,同时显著提高准确率。我们的代码已提供:https://github.com/Hydrapse/moscat。
引用
@article{arxiv.2409.06998,
title = {Mixture of Scope Experts at Test: Generalizing Deeper Graph Neural Networks with Shallow Variants},
author = {Gangda Deng and Hongkuan Zhou and Rajgopal Kannan and Viktor Prasanna},
journal= {arXiv preprint arXiv:2409.06998},
year = {2025}
}
备注
NeurIPS 2025