中文

理解图神经网络的异配性

机器学习 2024-06-05 v2 机器学习

摘要

具有异配性的图被认为是图神经网络(GNN)的挑战性场景,其中节点通过各种模式与不相似的邻居相连。在本文中,我们通过将图卷积(GC)操作融入全连接网络,并借助所提出的异配随机块模型(HSBM)——一种能够容纳多种异配模式的通用随机图模型,从理论上理解了不同异配模式对GNN的影响。首先,我们证明应用GC操作后,可分性增益由两个因素决定:邻域分布的欧氏距离和E[deg]\sqrt{\mathbb{E}\left[\operatorname{deg}\right]},其中E[deg]\mathbb{E}\left[\operatorname{deg}\right]是平均节点度。这表明异配性对分类的影响需要与平均节点度一起评估。其次,我们证明拓扑噪声对可分性有不利影响,其效果等同于降低E[deg]\mathbb{E}\left[\operatorname{deg}\right]。最后,当应用多个GC操作时,我们证明可分性增益由ll次幂邻域分布的归一化距离决定。这表明在广泛范围内,即使ll趋于无穷大,节点仍然具有可分性。在合成数据和真实数据上的大量实验验证了我们理论的有效性。

关键词

引用

@article{arxiv.2401.09125,
  title  = {Understanding Heterophily for Graph Neural Networks},
  author = {Junfu Wang and Yuanfang Guo and Liang Yang and Yunhong Wang},
  journal= {arXiv preprint arXiv:2401.09125},
  year   = {2024}
}

备注

ICML 2024