你的解释可靠吗：图神经网络上的置信度感知解释
机器学习
2025-06-03 v1 人工智能
摘要
由于对可解释性的需求，解释图神经网络（GNNs）引起了广泛关注，这使用户能够更好地理解这些黑盒模型的行为并从其预测中提取有价值的见解。尽管已经提出了许多事后实例级解释方法来解释 GNN 预测，但这些解释的可靠性仍然不确定，特别是在分布外或未知测试数据集中。在本文中，我们通过引入一个带有置信度评分模块（ConfExplainer）的解释器框架来解决这一挑战，该框架基于理论原理，即带有置信度约束的广义图信息瓶颈（GIB-CC），用于量化所生成解释的可靠性。实验结果证明了我们方法的优越性，突出了置信度分数在增强 GNN 解释的可信度和鲁棒性方面的有效性。
引用
@article{arxiv.2506.00437,
title = {Is Your Explanation Reliable: Confidence-Aware Explanation on Graph Neural Networks},
author = {Jiaxing Zhang and Xiaoou Liu and Dongsheng Luo and Hua Wei},
journal= {arXiv preprint arXiv:2506.00437},
year = {2025}
}
备注
In Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD25)