可靠还是欺骗？探究 CNN 中带门特征对视觉解释平滑性的影响
计算机视觉与模式识别
2024-05-01 v1 人工智能
摘要
深度学习模型已在各类领域取得显著成就。然而，这些模型的复杂性往往阻碍了对其决策过程的清晰理解。这就是可解释人工智能（XAI）变得至关重要的地方，它提供了对模型决策的直观解释。本文提出一种简单且高度有效的方法，ScoreCAM++，通过对 ScoreCAM 方法进行修改来增强其在视觉可解释性方面的表现。我们提议的做法涉及改变 ScoreCAM 中所使用的激活层的归一化函数，从而显著优于先前的做法。此外，我们对上采样后的激活层施加激活函数，以增强可解释性。这一改进是通过对激活层中低优先级值进行选择性门控（gating）实现的。通过大量实验和定性比较，我们展示，ScoreCAM++ 在解释决策过程方面 consistently 实现了显著优于 ScoreCAM 和其他先前方法的性能和公平性。
关键词
引用
@article{arxiv.2404.19341,
title = {Reliable or Deceptive? Investigating Gated Features for Smooth Visual Explanations in CNNs},
author = {Soham Mitra and Atri Sukul and Swalpa Kumar Roy and Pravendra Singh and Vinay Verma},
journal= {arXiv preprint arXiv:2404.19341},
year = {2024}
}