可靠评估CNN中归因图的方法：基于扰动的approach
计算机视觉与模式识别
2024-11-25 v1 人工智能
机器学习
摘要
本文提出了一种用于评估卷积神经网络(CNN)归因图的方法，这些图在解释CNN的预测方面发挥着核心作用。我们表明，广泛使用的插入/删除指标容易受到分布迁移的影响，影响其排序的可靠性。我们的方法提议用对抗性扰动来取代像素修改，提供更稳健的评估框架。通过使用平滑性和单调性措施，我们说明了该方法在纠正分布迁移方面的有效性。此外，我们进行了目前为止最全面的定量和定性评估归因图。引入基线归因图作为有效性检查，我们发现我们的指标是唯一通过所有检查的竞争者。使用Kendall's 秩相关系数，我们显示了该指标在15个数据集-架构组合中的一致性提升。经过测试的16个归因图中，我们的结果清晰显示SmoothGrad目前可用的最佳图。该研究对开发归因图的发展作出了重要贡献，提供了可靠且一致的评估框架。为确保可重复性，我们将提供代码及我们的結果。
引用
@article{arxiv.2411.14946,
title = {Reliable Evaluation of Attribution Maps in CNNs: A Perturbation-Based Approach},
author = {Lars Nieradzik and Henrike Stephani and Janis Keuper},
journal= {arXiv preprint arXiv:2411.14946},
year = {2024}
}