一体两面:图卷积神经网络中的异配性与过平滑
机器学习
2022-11-29 v8
摘要
在节点分类任务中,图卷积神经网络(GCNs)已在多种图数据上展现出优于传统方法的竞争性能。然而,已知GCN的性能随层数增加而下降(过平滑问题),且近期研究也表明GCN在异配图中可能表现更差,即相邻节点往往属于不同类别(异配性问题)。这两个问题通常被视为不相关,因而被独立研究,常从谱视角在图滤波层面进行。我们首次采用统一视角在节点层面联合解释过平滑与异配性问题。具体而言,我们通过两个定量度量刻画节点:节点的相对度(相较于其邻居)与节点级异配性。我们的理论表明,这两个刻画度量的相互作用定义了三种节点行为情形,其联合解释了过平滑与异配性问题并能预测GCN的性能。基于理论见解,我们从理论与经验上展示了两种策略的有效性:基于结构的边修正,从结构属性(即度)学习修正边权;以及基于特征的边修正,从节点特征学习带符号边权。相较于往往仅较好处理异配性或过平滑的其他方法,我们表明,结合两种策略的我们的模型GGCN在两类问题上均表现良好。
引用
@article{arxiv.2102.06462,
title = {Two Sides of the Same Coin: Heterophily and Oversmoothing in Graph Convolutional Neural Networks},
author = {Yujun Yan and Milad Hashemi and Kevin Swersky and Yaoqing Yang and Danai Koutra},
journal= {arXiv preprint arXiv:2102.06462},
year = {2022}
}
备注
Accepted to ICDM 2022, including 14-page supplement