基于神经因果模型的图神经网络因果解释
机器学习
2024-07-15 v1 人工智能
机器学习
摘要
图神经网络(GNN)解释器识别确保给定图预测的重要子图。目前，几乎所有 GNN 解释器都基于关联性，这容易导致虚假相关性。我们提出了 {\name}，一种通过因果推断实现的 GNN 因果解释器。我们的解释器基于这样一个观察：图通常由由因果关系构成的底层子图组成。{\name}包括三个主要步骤：1) 它为图构建因果结构和相应的结构因果模型(SCM)，以实现节点间的因果关系计算。2) 在现实图中直接计算因果关系计算起来具有计算挑战性。它受到最近出现的神经因果模型(NCM)——一种可训练的特殊类型 SCM——的启发，为 GNN 设计了定制的 NCM。通过训练这些 GNN NCM，可以轻松计算因果关系。3) 它通过优化的 GNN-NCM 揭示出解释 GNN 预测的因果子图。在多个合成和真实图上进行的评估结果表明，{\name} 在精确的 groundtruth 解释识别方面显著优于现有的 GNN 解释器。
引用
@article{arxiv.2407.09378,
title = {Graph Neural Network Causal Explanation via Neural Causal Models},
author = {Arman Behnam and Binghui Wang},
journal= {arXiv preprint arXiv:2407.09378},
year = {2024}
}