在不同同温性水平下使经典图神经网络成为强基准:一种平滑性-泛化视角
机器学习
2025-10-27 v3 人工智能
社会与信息网络
摘要
图神经网络(GNNs)取得了巨大成功,但常常因图上不同同温性水平的挑战而受到关注。最近的经验性研究意外地表明,同温性 GNN 在经过适当超参数调优后,能够在不同同温性水平的数据集上表现良好,但其背后的理论和有效架构仍不明确。为推进 GNN 在不同同温性下的普适性,我们从理论角度重新审视 GNN 消息传递,发现一种新的平滑性-泛化困境(smoothness-generalization dilemma),即增加跳数不可避免地会提升平滑性而牺牲泛化能力。这一困境阻碍了在高阶同温性邻域和全部异质性邻域中的学习,因为在这些区域,泛化至关重要且受复杂邻域类别分布的影响,这些分布对噪声或稀疏性引起的偏移极其敏感。为解决这一问题,我们引入了 Inceptive Graph Neural Network(IGNN),基于三个简单且有效的设计原则,通过启用不同跳数的泛化以及提升整体泛化的自适应平滑性来缓解这一困境。对 30 个基线进行基准测试显示,IGNN 的优势性并揭示了某些同温性 GNN 变体的显著普适性。我们的代码和数据集已提供给公众。
引用
@article{arxiv.2412.09805,
title = {Making Classic GNNs Strong Baselines Across Varying Homophily: A Smoothness-Generalization Perspective},
author = {Ming Gu and Zhuonan Zheng and Sheng Zhou and Meihan Liu and Jiawei Chen and Tanyu Qiao and Liangcheng Li and Jiajun Bu},
journal= {arXiv preprint arXiv:2412.09805},
year = {2025}
}
备注
36 pages. Accepted by NeurIPS 2025