自解释图神经网络的可信度究竟如何？
机器学习
2023-08-30 v1
摘要
自解释深度神经网络是一类近期出现的模型，能够输出忠实于模型推理的事前局部解释，因而在缩小表达能力与可解释性之间的差距方面迈出了一步。自解释图神经网络（GNNs）旨在图数据背景下实现同样的目标。这引出一个问题：这些模型是否履行了其在可信度方面的隐含保证？在本扩展摘要中，我们使用不同的可信度度量分析了若干自解释GNN的可信度，指出了若干局限——既存在于模型本身，也存在于评估指标中——并概述了可能的推进方向。
引用
@article{arxiv.2308.15096,
title = {How Faithful are Self-Explainable GNNs?},
author = {Marc Christiansen and Lea Villadsen and Zhiqiang Zhong and Stefano Teso and Davide Mottin},
journal= {arXiv preprint arXiv:2308.15096},
year = {2023}
}