GraphPatcher：通过测试时增强缓解图神经网络的度偏差
机器学习
2023-10-03 v1 人工智能
摘要
近期研究表明，图神经网络（GNNs）对节点度表现出强烈偏差：它们通常在具有丰富邻居信息的高度节点上表现良好，但在低度节点上表现不佳。现有工作通过专门为低度节点设计GNN架构或训练策略来解决该问题。尽管有效，这些方法无意中制造了一种分布外场景，模型在训练期间主要甚至仅观察到低度节点，导致GNN原本表现良好的高度节点性能下降。有鉴于此，我们提出一种测试时增强框架，即GraphPatcher，以增强任意GNN在低度节点上的测试时泛化能力。具体而言，GraphPatcher通过扰动迭代生成虚拟节点来修补人工创建的低度节点，旨在逐步重建目标GNN在一系列逐渐增强扰动的节点上的预测。通过该方案，GraphPatcher不仅学会如何增强低度节点（当邻域被严重扰动时），还保留了GNN在高度节点上的原有优越性能（当轻微扰动时）。此外，GraphPatcher与模型无关，也可缓解自监督或有监督GNN的度偏差。我们在七个基准数据集上进行了全面实验，GraphPatcher持续将常见GNN的整体性能提升高达3.6%，低度节点性能提升高达6.5%，显著优于最先进的基线方法。源代码公开于 https://github.com/jumxglhf/GraphPatcher。
引用
@article{arxiv.2310.00800,
title = {GraphPatcher: Mitigating Degree Bias for Graph Neural Networks via Test-time Augmentation},
author = {Mingxuan Ju and Tong Zhao and Wenhao Yu and Neil Shah and Yanfang Ye},
journal= {arXiv preprint arXiv:2310.00800},
year = {2023}
}
备注
NeurIPS'23