图神经网络何时有助于节点分类？考察同质性原则对节点可区分性的影响
社会与信息网络
2024-01-03 v4 机器学习
摘要
同质性原则，即相同标签的节点更可能相连，一直被认为是图神经网络（GNNs）在节点分类任务上优于神经网络的主要原因。近期研究表明，即便缺乏同质性，只要同一类节点共享相似的邻域模式，GNNs的优势依然存在。然而，该论点仅考虑了类内节点可区分性（ND）而忽略了类间ND，对同质性在GNNs上的作用理解不完整。本文中，我们首先以实例展示此种缺陷，并主张ND的理想情形是类内ND小于类间ND。为形式化此想法并深入研究ND，我们提出同质性情境随机块模型（CSBM-H），并定义概率贝叶斯误差（PBE）与负广义Jeffreys散度两个度量来量化ND。借助这些度量，我们可视化并分析了图滤波器、节点度分布与类方差如何影响ND，并考察类内与类间ND的联合效应。此外，我们发现了中同质性陷阱，其广泛存在于图数据集中。进而，我们在真实任务中验证：无论同质性水平如何，GNNs的优势确实与类内及类间ND均密切相关。基于该观察，我们提出一种超越同质性的、基于假设检验的新性能度量，其非线性、基于特征，并能为GNNs的优势提供统计阈值。实验表明，在揭示图感知模型在合成与基准真实数据集上的优劣方面，它比现有同质性度量显著更有效。
引用
@article{arxiv.2304.14274,
title = {When Do Graph Neural Networks Help with Node Classification? Investigating the Impact of Homophily Principle on Node Distinguishability},
author = {Sitao Luan and Chenqing Hua and Minkai Xu and Qincheng Lu and Jiaqi Zhu and Xiao-Wen Chang and Jie Fu and Jure Leskovec and Doina Precup},
journal= {arXiv preprint arXiv:2304.14274},
year = {2024}
}
备注
Accepted by 37th Conference on Neural Information Processing Systems (NeurIPS 2023)