重新审视图神经网络中的异配性
机器学习
2022-10-17 v1 社会与信息网络
摘要
图神经网络（GNN）通过基于关系归纳偏置（同配假设）的图结构扩展了基础神经网络（NN）。尽管人们通常认为GNN在真实世界任务中优于NN，但近期工作识别出一组非平凡的数据集，其中它们相对于NN的性能并不令人满意。异配性被视为这一经验观察的主要原因，并已提出大量工作来应对它。本文中，我们首先重新审视广泛使用的同配度量，并指出其仅考虑图-标签一致性的缺陷。随后，我们从聚合后节点相似度的视角研究异配性，并定义新的同配度量，其相较于现有度量可能具有优势。基于此研究，我们证明某些有害的异配情形可通过局部多样化操作有效解决。接着，我们提出自适应通道混合（ACM），一种逐节点自适应利用聚合、多样化与恒等通道以在多样节点异配情形下提取更丰富局部信息的框架。ACM比异配图上节点分类任务中常用的单通道框架更强大，且易于在基线GNN层中实现。在10个基准节点分类任务上的评估表明，ACM增强的基线持续取得显著性能提升，在大多数任务上超越state-of-the-art GNN，且不带来显著计算负担。
引用
@article{arxiv.2210.07606,
title = {Revisiting Heterophily For Graph Neural Networks},
author = {Sitao Luan and Chenqing Hua and Qincheng Lu and Jiaqi Zhu and Mingde Zhao and Shuyuan Zhang and Xiao-Wen Chang and Doina Precup},
journal= {arXiv preprint arXiv:2210.07606},
year = {2022}
}
备注
Published at 36th Conference on Neural Information Processing Systems (NeurIPS 2022). arXiv admin note: substantial text overlap with arXiv:2109.05641