异质雪花假设:训练和赋能用于异质图的GNN
机器学习
2024-06-19 v1 人工智能
摘要
图神经网络(GNN)已成为一系列基于图的学习任务的关键工具。值得注意的是,当前大多数GNN架构都显式或隐式地基于同质性假设。虽然这一基本假设被广泛采用,但它并非普遍适用,可能导致学习效果上的潜在不足。在本文中,\textbf{我们首次}将流行的“一个节点一个感受野”的概念迁移到异质图。通过构建一个代理标签预测器,我们使每个节点拥有一个潜在的预测分布,这有助于连接的节点决定是否应聚合其关联邻居。最终,每个节点可以拥有自己独特的聚合跳数和模式,就像每片雪花都是独一无二并拥有自己的特征一样。基于观察,我们创新性地提出了异质雪花假设,并提供了一个有效的解决方案来指导和促进异质图及更广泛领域的研究。我们进行了全面的实验,包括:(1) 在10个具有不同异质比率的图上,使用10种骨干网络的主要结果;(2) 在各种深度GNN骨干网络(SGC、JKNet等)上,针对不同层数(2、4、6、8、16、32层)的可扩展性;(3) 与传统雪花假设的比较;(4) 与现有图剪枝算法的效率比较。我们的观察表明,我们的框架作为一个多功能算子适用于各种任务。它可以集成到各种GNN框架中,深度提升性能,并提供了一种可解释的方法来选择最优网络深度。源代码可在\url{https://github.com/bingreeky/HeteroSnoH}获取。
引用
@article{arxiv.2406.12539,
title = {The Heterophilic Snowflake Hypothesis: Training and Empowering GNNs for Heterophilic Graphs},
author = {Kun Wang and Guibin Zhang and Xinnan Zhang and Junfeng Fang and Xun Wu and Guohao Li and Shirui Pan and Wei Huang and Yuxuan Liang},
journal= {arXiv preprint arXiv:2406.12539},
year = {2024}
}
备注
KDD 2024