迈向异构图神经网络的细粒度可解释性
机器学习
2023-12-27 v1 人工智能
摘要
异构图神经网络 (HGNs) 是异构图上节点分类任务的突出方法。尽管性能优越，但人类难以洞察 HGNs 做出的预测。现有的可解释性技术主要是为同质图上的 GNNs 提出的。它们专注于突出对预测显著的图对象，而这些对象如何影响预测的问题仍未解决。鉴于具有复杂结构和丰富语义的异构图，显著的物体必须伴随其对预测的影响路径，以揭示 HGNs 的推理过程，这一点至关重要。在本文中，我们开发了 xPath，这是一个新框架，可为黑盒 HGNs 提供细粒度解释，指定原因节点及其对目标节点的影响路径。在 xPath 中，我们区分节点对预测相对于每条独立影响路径的影响，并通过一种新颖的图重连算法扰动图结构来衡量这种影响。此外，我们引入了一种贪心搜索算法以高效地找到最具影响力的细粒度解释。在各种 HGNs 和异构图上的实证结果表明，xPath 能高效地产生忠实的解释，优于先进 GNN 解释方法的适配版本。
引用
@article{arxiv.2312.15237,
title = {Towards Fine-Grained Explainability for Heterogeneous Graph Neural Network},
author = {Tong Li and Jiale Deng and Yanyan Shen and Luyu Qiu and Yongxiang Huang and Caleb Chen Cao},
journal= {arXiv preprint arXiv:2312.15237},
year = {2023}
}
备注
Accepted by AAAI2023