中文

关注基于增广的图分布外泛化中的标签偏移

机器学习 2023-03-28 v1 人工智能

摘要

分布外(OOD)泛化是图神经网络(GNNs)的一个重要问题。近期工作采用不同的图编辑来生成增广环境并学习不变的 GNN 以实现泛化。然而,由于图结构编辑不可避免地改变图标签,增广中通常会出现标签偏移。这带来了增广环境间不一致的预测关系,不利于泛化。为解决此问题,我们提出 \textbf{LiSA},其生成标签不变增广以促进图 OOD 泛化。LiSA 不借助图编辑,而是利用训练图的 \textbf{L}abel-\textbf{i}nvariant \textbf{S}ubgraphs(标签不变子图)来构建 \textbf{A}ugmented environments(增广环境)。具体而言,LiSA 首先设计变分子图生成器以提取局部预测模式并高效构建多个标签不变子图。然后,收集不同生成器产生的子图以构建不同的增广环境。为促进增广环境间的多样性,LiSA 进一步引入可处理的基于能量的正则化以扩大环境分布间的成对距离。以此方式,LiSA 生成具有一致预测关系的多样化增广环境,并促进不变 GNN 的学习。在节点级和图级 OOD 基准上的大量实验表明,LiSA 在不同的 GNN 骨干网络下均取得了令人印象深刻的泛化性能。代码见 \url{https://github.com/Samyu0304/LiSA}。

关键词

引用

@article{arxiv.2303.14859,
  title  = {Mind the Label Shift of Augmentation-based Graph OOD Generalization},
  author = {Junchi Yu and Jian Liang and Ran He},
  journal= {arXiv preprint arXiv:2303.14859},
  year   = {2023}
}

备注

Accepted to CVPR 2023. arXiv admin note: text overlap with arXiv:2206.09345