IENE:识别与外推节点环境以实现图上的分布外泛化
机器学习
2024-06-04 v1
摘要
由于图神经网络(GNN)在分布偏移下性能下降,图上分布外(OOD)泛化的工作受到了广泛关注。一个新颖的视角是通过环境识别来区分来自不同环境的潜在混杂偏差,使模型能够摆脱环境敏感的相关性,并在分布偏移下保持稳定性能。然而,在图数据中,混杂因素不仅影响节点特征的生成过程,还影响节点之间的复杂交互。我们观察到,忽略其中任何一个方面都会导致性能下降。在本文中,我们提出了IENE,一种基于节点级环境识别和外推技术的图上OOD泛化方法。它同时增强了模型从两个粒度提取不变性的能力,从而提高了泛化能力。具体来说,为了识别特征中的不变性,我们利用解耦信息瓶颈框架来实现节点级环境估计与不变特征学习之间的相互促进。此外,我们通过图增强技术外推拓扑环境以识别结构不变性。我们用具体算法实现了概念性方法,并为我们的方法提供了理论分析和证明。在两个合成数据集和四个真实世界OOD数据集上的大量实验评估验证了IENE的优越性,它优于现有技术,并为增强GNN的泛化能力提供了一个灵活的框架。
引用
@article{arxiv.2406.00764,
title = {IENE: Identifying and Extrapolating the Node Environment for Out-of-Distribution Generalization on Graphs},
author = {Haoran Yang and Xiaobing Pei and Kai Yuan},
journal= {arXiv preprint arXiv:2406.00764},
year = {2024}
}