中文

通过分层语义环境提升图领域的分布外泛化能力

机器学习 2024-06-04 v2 人工智能

摘要

由于复杂的分布偏移和环境上下文的缺失,图领域的分布外(OOD)泛化极具挑战性。最近的方法试图通过生成扁平化环境来增强图的 OOD 泛化能力。然而,此类扁平化环境在捕捉更复杂的数据分布方面存在固有局限。以包含多样化训练环境(如骨架、尺寸等)的 DrugOOD 数据集为例,扁平化上下文无法充分应对其高度异质性。因此,生成语义更丰富的环境以增强图不变学习并处理分布偏移成为了一个新的挑战。在本文中,我们提出了一种为每个图生成分层语义环境的新方法。首先,给定输入图,我们显式地从输入图中提取变分子图,以生成关于局部环境的代理预测。然后,利用随机注意力机制重新提取子图,以分层方式再生全局环境。此外,我们引入了一种新的学习目标,引导模型在同一层级内学习环境的多样性,同时保持不同层级间的一致性。这种方法使模型能够考虑环境之间的关系,并促进鲁棒的图不变学习。在真实世界图数据上的大量实验证明了我们要框架的有效性。特别是在具有挑战性的 DrugOOD 数据集上,我们的方法在 IC50 和 EC50 预测任务上分别比最佳基线提高了 1.29% 和 2.83%。

关键词

引用

@article{arxiv.2403.01773,
  title  = {Improving out-of-distribution generalization in graphs via hierarchical semantic environments},
  author = {Yinhua Piao and Sangseon Lee and Yijingxiu Lu and Sun Kim},
  journal= {arXiv preprint arXiv:2403.01773},
  year   = {2024}
}

备注

CVPR 2024