增强图像分类事后解释基准的可靠性
计算机视觉与模式识别
2023-11-30 v1
摘要
深度神经网络在图像分类方面虽然强大，但常作为“黑箱”运行，使其决策过程难以理解。各种解释方法，尤其是生成显著图的方法，旨在应对这一挑战。然而，忠实度度量的不一致性问题阻碍了可靠地基准测试解释方法。本文采用受心理测量学启发的方法，利用Krippendorf's alpha量化图像分类中事后方法的基准可靠性。该研究提出了模型训练修改方案，包括输入扰动样本和使用focal loss，以增强鲁棒性和校准性。实证评估表明，在度量、数据集和事后方法上基准可靠性均有显著提升。这项开创性工作为事后解释方法领域更可靠的评估实践奠定了基础，强调了模型鲁棒性在评估过程中的重要性。
引用
@article{arxiv.2311.17876,
title = {Enhancing Post-Hoc Explanation Benchmark Reliability for Image Classification},
author = {Tristan Gomez and Harold Mouchère},
journal= {arXiv preprint arXiv:2311.17876},
year = {2023}
}