面向图神经网络可解释性评估的鲁棒保真度
机器学习
2024-03-19 v2
摘要
图神经网络（GNN）是通过图节点间消息传递来利用图数据依赖结构的神经模型。GNN 已成为分析图结构数据的关键架构，其在敏感领域的广泛应用要求对其决策过程有全面理解——这需要一套 GNN 可解释性框架。GNN 的解释函数以预训练 GNN 与图作为输入，产生相对于图标签的“充分统计量”子图。研究 GNN 可解释性的主要挑战在于提供评估这些解释函数性能的保真度度量。本文研究这一基础性挑战，揭示包括 、 与 在内的主流保真度度量的固有局限。具体而言，我们引入了可解释性的形式化信息论定义，并表明现有度量在多种统计场景下常与该定义不符。原因在于计算这些保真度度量时移除子图可能带来分布偏移。随后，我们引入一类鲁棒的保真度度量，并从解析上证明它们对分布偏移问题具有韧性，且适用于广泛场景。在合成与真实数据集上的大量实证分析表明，所提度量与黄金标准度量更为一致。源代码见 https://trustai4s-lab.github.io/fidelity。
引用
@article{arxiv.2310.01820,
title = {Towards Robust Fidelity for Evaluating Explainability of Graph Neural Networks},
author = {Xu Zheng and Farhad Shirani and Tianchun Wang and Wei Cheng and Zhuomin Chen and Haifeng Chen and Hua Wei and Dongsheng Luo},
journal= {arXiv preprint arXiv:2310.01820},
year = {2024}
}
备注
Accepted by International Conference on Learning Representations (ICLR 2024); 26 Pages, 12 figures