基于有参考与无参考指标的AI解释方法评估——图像分类任务中的CNN
计算机视觉与模式识别
2023-05-17 v5
摘要
AI机器学习范式中最流行的方法主要是黑箱。这正是解释AI决策具有紧迫性的原因。尽管专用的解释工具已被大量开发，其质量评估仍是一个开放的研究问题。本文中，我们推广了在视觉分类任务中基于参考与无参考指标评估CNN决策事后解释器的方法论。我们将其应用于我们先前开发的解释器(FEM、MLFEM)以及流行的Grad-CAM。基于参考的指标为皮尔逊相关系数和解释图与以其真值(由心理视觉实验获得的注视 fixation 密度图表示)之间的相似度。作为无参考指标，我们采用Alvarez-Melis和Jaakkola提出的稳定性指标。我们研究其行为、与基于参考指标的一致性，并表明在输入图像发生若干类退化的情况下，该指标与基于参考的指标一致。因此，当真值不可用时，它可用于评估解释器的质量。
引用
@article{arxiv.2212.01222,
title = {Evaluation of Explanation Methods of AI -- CNNs in Image Classification Tasks with Reference-based and No-reference Metrics},
author = {A. Zhukov and J. Benois-Pineau and R. Giot},
journal= {arXiv preprint arXiv:2212.01222},
year = {2023}
}
备注
Due to a bug found in the code, all tables and figures were redone. The new results did not change the main conclusion, except for the best explainer. FEM has performed better than MLFEM; 25 pages, 16 tables, 16 figures; Submitted to "Advances in Artificial Intelligence and Machine Learning" (ISSN: 2582-9793)