论图神经网络解释的必然性与充分性概率：一种下界优化方法
机器学习
2024-12-31 v4
摘要
图神经网络(Graph Neural Networks, GNNs)的可解释性对各类GNN应用至关重要，然而仍是一项重大挑战。一个有说服力的解释应同时具备必要性与充分性。然而，现有GNN解释方法仅关注必要性与充分性二者之一，或对二者进行启发式权衡。理论上，必然性与充分性概率(Probability of Necessity and Sufficiency, PNS)有潜力识别出最具必要性与充分性的解释，因其可从数学上量化解释的必要性与充分性。尽管如此，由于非单调性与反事实估计的困难，PNS难以获取，限制了其广泛应用。为解决PNS的不可识别性，我们借助可通过反事实估计优化的PNS下界，并提出通过优化该下界实现GNN必要且充分解释(NSEG)的框架。具体而言，我们将GNN刻画为结构因果模型(structural causal model, SCM)，并通过SCM下的干预估计反事实概率。此外，我们利用带采样策略的连续掩码优化该下界以提升可扩展性。实证结果表明，NSEG优于当前最优方法，持续生成最具必要性与充分性的解释。
引用
@article{arxiv.2212.07056,
title = {On the Probability of Necessity and Sufficiency of Explaining Graph Neural Networks: A Lower Bound Optimization Approach},
author = {Ruichu Cai and Yuxuan Zhu and Xuexin Chen and Yuan Fang and Min Wu and Jie Qiao and Zhifeng Hao},
journal= {arXiv preprint arXiv:2212.07056},
year = {2024}
}
备注
Submitted to Neural Networks