GCExplainer：面向图神经网络的人机协同基于概念的解释
机器学习
2021-07-27 v1
摘要
尽管图神经网络(GNNs)已被证明在来自多个领域的基于图的数据上表现良好，但它们缺乏透明度和可问责性，这阻碍了信任，进而阻碍了此类模型在高风险和安全关键场景中的部署。尽管近期研究探讨了解释 GNNs 的方法，这些方法局限于单实例解释，也称为局部解释。受提供全局解释目标的驱动，我们将著名的自动化基于概念的解释方法(Ghorbani 等人，2019)适配于 GNN 节点和图分类，并提出了 GCExplainer。GCExplainer 是一种无监督的后验发现和提取 GNNs 全局基于概念的解释的方法，它将人置于回路中。我们在五个节点分类数据集和两个图分类数据集上展示了我们技术的成功，表明通过让人置于回路中，我们能够发现和提取高质量的概念表示。我们在这些数据集上取得了最大完备性得分 1 和平均完备性得分 0.753。最后，我们展示了与 GNNExplainer(Ying 等人，2019)生成的当前最优解释相比，基于概念的解释提供了对数据集和 GNN 模型改进的洞察。
引用
@article{arxiv.2107.11889,
title = {GCExplainer: Human-in-the-Loop Concept-based Explanations for Graph Neural Networks},
author = {Lucie Charlotte Magister and Dmitry Kazhdan and Vikash Singh and Pietro Liò},
journal= {arXiv preprint arXiv:2107.11889},
year = {2021}
}
备注
Accepted as 3rd ICML Workshop on Human in the Loop Learning, 2021