中文

异配性真的是图神经网络进行节点分类的噩梦吗?

机器学习 2021-09-14 v1 社会与信息网络

摘要

图神经网络(GNNs)基于关系归纳偏置(同配假设)利用图结构扩展了基础神经网络(NNs)。尽管人们相信 GNNs 在真实任务中优于 NNs,但 GNNs 相对无视图神经网络 NNs 的性能优势似乎并不普遍令人满意。异配性一直被视为主要原因,并已提出大量工作加以解决。本文首先表明,并非所有异配情况都对具有聚合操作的 GNNs 有害。接着,我们基于同时考虑图结构与输入特征对 GNNs 影响的相似度矩阵提出新度量。通过在合成图上的测试,这些度量相对于常用同配度量展现出优势。从度量与观察中,我们发现某些有害异配情况可通过多样化操作解决。基于该事实及滤波器组知识,我们提出自适应通道混合(ACM)框架,以在每一 GNN 层中自适应地利用聚合、多样化与恒等通道来应对有害异配性。我们在 10 个真实世界节点分类任务上验证了 ACM 增强的基线模型。它们一致取得显著性能提升,并在大多数任务上超越最先进 GNNs,且未带来显著计算负担。

关键词

引用

@article{arxiv.2109.05641,
  title  = {Is Heterophily A Real Nightmare For Graph Neural Networks To Do Node Classification?},
  author = {Sitao Luan and Chenqing Hua and Qincheng Lu and Jiaqi Zhu and Mingde Zhao and Shuyuan Zhang and Xiao-Wen Chang and Doina Precup},
  journal= {arXiv preprint arXiv:2109.05641},
  year   = {2021}
}