基于特征重要性的视觉解释方法的稳定性、正确性与合理性研究
计算机视觉与模式识别
2023-11-23 v1 人工智能
机器学习
摘要
在可解释人工智能领域，已提出多种评估指标，用以针对一组期望性质评估解释方法的质量。本工作中，我们研究了图像分类器中基于特征重要性的解释方法的稳定性、正确性与合理性之间的关联。我们表明，用于评估这些性质的现有指标并非总是一致，从而引发了何为解释的良好评估指标的问题。最后，在稳定性与正确性的特定情形下，我们展示了某些评估指标可能的局限性，并提出了考虑被测模型局部行为的新指标。
引用
@article{arxiv.2311.12860,
title = {On the stability, correctness and plausibility of visual explanation methods based on feature importance},
author = {Romain Xu-Darme and Jenny Benois-Pineau and Romain Giot and Georges Quénot and Zakaria Chihani and Marie-Christine Rousset and Alexey Zhukov},
journal= {arXiv preprint arXiv:2311.12860},
year = {2023}
}