评估基于显著性的解释方法的整体敏感性
机器学习
2023-06-27 v1 人工智能
摘要
我们致力于生成对“黑箱”深度学习模型的忠实解释。已有若干测试用于判定解释方法忠实的某些方面，但它们缺乏跨领域适用性且方法论不够严谨。因此，我们选取一种模型无关且适于比较多种解释方法某一方面忠实性（即敏感性）的现有测试，并通过指定形式化阈值与构建准则以判定解释方法整体敏感性来扩展之。我们给出如何运用该扩展方法论比较卷积神经网络多种解释方法的示例。最后，我们讨论敏感性与忠实性之间的关系，并考量如何调整该测试以评估其他领域的不同解释方法。
引用
@article{arxiv.2306.13682,
title = {Evaluating the overall sensitivity of saliency-based explanation methods},
author = {Harshinee Sriram and Cristina Conati},
journal= {arXiv preprint arXiv:2306.13682},
year = {2023}
}
备注
Accepted to the IJCAI-XAI 2023 workshop