面向图神经网络的全局反事实解释器
机器学习
2022-11-14 v2
摘要
图神经网络（GNNs）在计算生物学、自然语言处理与计算机安全等多个领域得到应用。由于其流行，对 GNN 预测进行解释的需求日益增长，因为 GNNs 是黑盒机器学习模型。一种解决途径是反事实推理，其目标是通过对输入图的最小改动来改变 GNN 预测。现有的 GNN 反事实解释方法局限于实例特定的局部推理。该方法存在两个主要局限：无法提供全局补救策略，以及以过多信息加重人类认知负担。本工作中，我们通过全局反事实推理研究 GNN 的全局可解释性。具体而言，我们期望找到一小组具有代表性的反事实图，用以解释所有输入图。为此，我们提出 GCFExplainer，一种由编辑图上顶点增强随机游动与贪心摘要驱动的新算法。在真实图数据集上的大量实验表明，GCFExplainer 的全局解释提供了模型行为的重要高层洞见，并且相较于当前最优的局部反事实解释器，在补救覆盖率上取得 46.9% 的提升，在补救成本上降低 9.5%。
引用
@article{arxiv.2210.11695,
title = {Global Counterfactual Explainer for Graph Neural Networks},
author = {Mert Kosan and Zexi Huang and Sourav Medya and Sayan Ranu and Ambuj Singh},
journal= {arXiv preprint arXiv:2210.11695},
year = {2022}
}
备注
Accepted to WSDM 2023