FD-CAM：提升 CNN 视觉解释忠实度与判别性
计算机视觉与模式识别
2022-06-20 v1
摘要
类激活图（CAM）已被广泛研究用于卷积神经网络内部工作机制的视觉解释。现有基于 CAM 的方法的关键在于计算有效权重以组合目标卷积层中的激活图。现有的基于梯度和基于分数的加权方案在保障 CAM 的判别性或忠实度之一上表现出优势，但通常无法在两方面都出色。本文提出一种新颖的 CAM 加权方案，名为 FD-CAM，以同时提升基于 CAM 的 CNN 视觉解释的忠实度与判别性。首先，我们通过执行分组通道切换操作来提升基于分数的权重的忠实度与判别性。具体而言，对于每个通道，我们计算其相似组并同时开启或关闭该组通道，以类预测分数的变化作为权重。然后，我们将改进后的基于分数的权重与传统的基于梯度的权重相结合，从而进一步提升最终 CAM 的判别性。我们与最先进的 CAM 算法进行了广泛比较。定量与定性结果表明，我们的 FD-CAM 能生成更忠实且更具判别性的 CNN 视觉解释。我们还通过实验验证了所提出的分组通道切换与权重组合方案对改进结果的有效性。我们的代码见 https://github.com/crishhh1998/FD-CAM。
引用
@article{arxiv.2206.08792,
title = {FD-CAM: Improving Faithfulness and Discriminability of Visual Explanation for CNNs},
author = {Hui Li and Zihao Li and Rui Ma and Tieru Wu},
journal= {arXiv preprint arXiv:2206.08792},
year = {2022}
}
备注
Accepted by ICPR 2022 and also accepted by CVPR 2022 Explainable Artificial Intelligence for Computer Vision (XAI4CV) Workshop