中文

基于可控数据增强的图分布外泛化

机器学习 2023-08-17 v1 人工智能 社会与信息网络

摘要

图神经网络(GNN)在图属性分类中展现出非凡性能。然而,由于训练与测试数据的选择偏差(例如在小图上训练、大图上测试,或在稠密图上训练、稀疏图上测试),分布偏差普遍存在。更重要的是,尽管存在单边偏置的数据划分,我们常观察到尺度与密度兼有的\emph{混合结构分布偏移}。混合分布偏差上的虚假相关降低了以往GNN方法的性能,并在不同数据集间表现出较大不稳定性。为缓解该问题,我们提出\texttt{OOD-GMixup},通过在度量空间中进行\emph{可控数据增强}来联合调控训练分布。具体而言,我们首先提取图理性以消除由无关信息导致的虚假相关。其次,我们在图理性表示域上施加扰动生成虚拟样本,以获得潜在的OOD训练样本。最后,我们提出OOD校准,利用极值理论度量虚拟样本的分布偏差,并通过强化虚拟OOD样本的影响进一步主动控制训练分布。在多个图分类真实数据集上的广泛研究证明了我们所提方法相对于最先进基线的优越性。

关键词

引用

@article{arxiv.2308.08344,
  title  = {Graph Out-of-Distribution Generalization with Controllable Data Augmentation},
  author = {Bin Lu and Xiaoying Gan and Ze Zhao and Shiyu Liang and Luoyi Fu and Xinbing Wang and Chenghu Zhou},
  journal= {arXiv preprint arXiv:2308.08344},
  year   = {2023}
}

备注

Under review