你的解释有多好？用于评估深度神经网络解释质量的算法稳定性度量
机器学习
2021-11-10 v3 人工智能
摘要
已提出大量方法来解释深度神经网络如何做出决策，但相对而言，为确保这些方法产生的解释客观相关所作的努力甚少。虽然已制定出若干可信解释的理想性质，但客观度量却更难推导。在此，我们提出两种从算法稳定性领域借用的新度量来评估解释：平均可泛化性 MeGe 与相对一致性 ReCo。我们在不同网络架构、常用可解释性方法和多个图像数据集上进行了广泛实验，以展示所提度量的益处。与我们的度量相比，流行的保真度度量不足以保证可信解释。最后，我们发现 1-Lipschitz 网络产生的解释比常见神经网络具有更高的 MeGe 和 ReCo，同时达到相似准确率。这表明 1-Lipschitz 网络是朝向更具可解释性与可信预测器的一个相关方向。
引用
@article{arxiv.2009.04521,
title = {How Good is your Explanation? Algorithmic Stability Measures to Assess the Quality of Explanations for Deep Neural Networks},
author = {Thomas Fel and David Vigouroux and Rémi Cadène and Thomas Serre},
journal= {arXiv preprint arXiv:2009.04521},
year = {2021}
}