OrphicX：一种用于解释图神经网络的因果启发的潜变量模型
机器学习
2022-04-12 v1 机器学习
摘要
本文提出一种新的解释框架 OrphicX，基于学习到的潜因果因子为任意图神经网络（GNNs）生成因果解释。具体而言，我们构建了一个独特的生成模型并设计了一个目标函数，以促使生成模型产生因果的、紧凑的且忠实的解释。这是通过在图的潜空间中隔离因果因子并最大化信息流度量来实现的。我们从理论上分析了所提因果图中的因果效应关系，将节点属性识别为图与 GNN 预测之间的混杂因子，并利用后门调整公式规避此类混杂效应。我们的框架兼容任意 GNN，且不需要访问目标 GNN 产生其预测的过程。此外，它不依赖被解释特征的线性独立假设，也不要求图学习任务的先验知识。我们在图数据上的标准分类问题上展示了 OrphicX 的概念验证。特别地，我们分析了从分子图（即 Mutag）解释中获得的解释子图，并利用频繁出现的子图模式定量评估解释性能。实证上，我们表明 OrphicX 能有效识别用于生成因果解释的因果语义，显著优于其替代方法。
引用
@article{arxiv.2203.15209,
title = {OrphicX: A Causality-Inspired Latent Variable Model for Interpreting Graph Neural Networks},
author = {Wanyu Lin and Hao Lan and Hao Wang and Baochun Li},
journal= {arXiv preprint arXiv:2203.15209},
year = {2022}
}
备注
Accepted by CVPR 2022, an oral presentation, source code: https://github.com/WanyuGroup/CVPR2022-OrphicX