深度图模型的忠实解释
机器学习
2022-05-25 v1 人工智能
摘要
本文研究图神经网络（GNNs）的忠实解释。首先，我们提供了一种新的通用方法，用于形式化刻画GNN解释忠实性的特征。它适用于已有的解释方法，包括特征归因与子图解释。其次，我们的分析与实证结果表明，特征归因方法无法捕捉边特征的非线性效应，而现有的子图解释方法并不忠实。第三，我们引入了\emph{k-hop Explanation with a Convolutional Core}（KEC），一种利用邻接矩阵及其\emph{k次}幂中图结构信息、可证明地最大化对原始GNN忠实性的新解释方法。最后，我们在分类与异常检测任务上基于合成与真实世界数据集、针对GNN的实证结果展示了我们方法的有效性。
引用
@article{arxiv.2205.11850,
title = {Faithful Explanations for Deep Graph Models},
author = {Zifan Wang and Yuhang Yao and Chaoran Zhang and Han Zhang and Youjie Kang and Carlee Joe-Wong and Matt Fredrikson and Anupam Datta},
journal= {arXiv preprint arXiv:2205.11850},
year = {2022}
}