通过因果干预实现图分布外泛化
机器学习
2024-08-19 v2 社会与信息网络
摘要
分布外（OOD）泛化在图学习上日益受到关注，因为图神经网络（GNNs）在分布偏移下往往表现出性能下降。挑战在于图上的分布偏移涉及节点间复杂的相互连接，且数据中通常缺乏环境标签。在本文中，我们采用自底向上的数据生成视角，并通过因果分析揭示了一个关键观察结果：GNNs 在 OOD 泛化中失败的核心在于来自环境的潜在混杂偏差。后者误导模型利用自我图特征与目标节点标签之间对环境敏感的关联，导致在新未见节点上的泛化效果不佳。基于此分析，我们引入了一种概念简单但原则明确的方法，用于在节点级分布偏移下训练鲁棒的 GNNs，而无需预先知道环境标签。我们的方法采用了一种源自因果推断的新学习目标，协调环境估计器和混合专家 GNN 预测器。新方法可以抵消训练数据中的混杂偏差，促进学习可泛化的预测关系。大量实验表明，我们的模型能有效增强对各种类型分布偏移的泛化能力，在图 OOD 泛化基准测试中，准确率比最先进方法最高提升 27.4%。源代码可在 https://github.com/fannie1208/CaNet 获取。
引用
@article{arxiv.2402.11494,
title = {Graph Out-of-Distribution Generalization via Causal Intervention},
author = {Qitian Wu and Fan Nie and Chenxiao Yang and Tianyi Bao and Junchi Yan},
journal= {arXiv preprint arXiv:2402.11494},
year = {2024}
}
备注
Accepted by the research paper track of The Web Conference (WWW) 2024. The codes are available at https://github.com/fannie1208/CaNet