分布偏移下的图泛化
机器学习
2024-03-26 v1 人工智能
摘要
传统机器学习方法严重依赖于独立同分布假设,这在测试分布偏离训练分布时存在局限。为应对这一关键问题,旨在面对未知分布偏移时获得令人满意的泛化性能的分布外(OOD)泛化研究已取得显著进展。然而,由于两个主要挑战,针对图结构数据的 OOD 方法目前仍不够清晰,且探索相对不足。首先,图上的分布偏移往往同时发生在节点属性和图拓扑上。其次,在多种分布偏移中捕获不变信息是一项艰巨的挑战。为克服这些障碍,本文提出了一种新框架,称为图学习不变域生成(Graph Learning Invariant Domain genERation, GLIDER)。其目标为:(1)通过对属性分布和拓扑结构的潜在已见或未见变化进行建模,实现跨域变化的多样化;(2)在以预测语义标签为目标的表示空间中,最小化变化的差异性。大量实验结果表明,在节点特征和拓扑结构同时发生分布偏移的情况下,我们的模型在跨域节点级 OOD 泛化任务上优于基线方法。
引用
@article{arxiv.2403.16334,
title = {Graphs Generalization under Distribution Shifts},
author = {Qin Tian and Wenjun Wang and Chen Zhao and Minglai Shao and Wang Zhang and Dong Li},
journal= {arXiv preprint arXiv:2403.16334},
year = {2024}
}