基于反事实与事实推理学习和评估图神经网络解释
信息检索
2022-05-12 v3 机器学习
摘要
结构数据广泛存在于Web应用中，例如社交媒体中的社交网络、学术网站中的引文网络以及在线论坛中的帖子数据。由于其复杂拓扑，处理和利用此类数据中的丰富信息十分困难。图神经网络（GNNs）在学习结构数据表示方面已展现出巨大优势。然而，深度学习模型的不透明性使得解释和解读GNNs的预测并非易事。同时，评估GNN解释也是一大挑战，因为在许多情况下真实解释不可用。本文中，我们借鉴因果推断理论中的反事实与事实（CF^2）推理，来解决可解释GNNs中的学习和评估问题。为生成解释，我们通过基于两种因果视角建立优化问题，提出了一种模型无关框架。这使CF^2区别于先前仅考虑其中之一的可解释GNNs。本工作的另一贡献是对GNN解释的评估。为在无需真实解释的情况下定量评估生成的解释，我们基于反事实与事实推理设计了度量标准，以评估解释的必要性 and 充分性。实验表明，无论真实解释是否可用，CF^2在真实世界数据集上均生成优于先前最先进方法的解释。此外，统计分析证实了真实解释评估上的性能与我们提出的度量标准之间的相关性。源代码见https://github.com/chrisjtan/gnn_cff。
引用
@article{arxiv.2202.08816,
title = {Learning and Evaluating Graph Neural Network Explanations based on Counterfactual and Factual Reasoning},
author = {Juntao Tan and Shijie Geng and Zuohui Fu and Yingqiang Ge and Shuyuan Xu and Yunqi Li and Yongfeng Zhang},
journal= {arXiv preprint arXiv:2202.08816},
year = {2022}
}
备注
Published at the Web Conference 2022 (WWW 2022)