Eigen-CAM：基于主成分的类激活图

深度神经网络无处不在，这得益于模型开发的便利性及其对其他领域的影响。这一进展的核心是可卷积神经网络（CNN），它能够在给定数据集的情况下学习表征或特征。对于开发者和最终用户而言，理解此类复杂模型（即数百万参数和数百层）仍然具有挑战性。这部分是由于缺乏能够提供可解释性和透明度的工具或接口。例如，越来越多的文献（如类激活图（CAM））致力于理解模型从数据中学习了什么，或者为何在给定任务中表现不佳。本文在先前工作的基础上，以应对对可解释、鲁棒和透明模型日益增长的需求。我们的方法提供了一种更简单且直观（或熟悉）的生成 CAM 的方式。所提出的 Eigen-CAM 计算并可视化从卷积层学习到的特征/表征的主成分。我们通过在弱监督定位和在对抗噪声存在下定位物体等基准数据集上进行评估，将 Eigen-CAM 与最先进的方法（如 Grad-CAM、Grad-CAM++、CNN-fixations）进行了比较研究。研究发现，Eigen-CAM 对 CNN 中全连接层造成的分类错误具有鲁棒性，不依赖于梯度的反向传播、类别相关性分数、最大激活位置或任何其他形式的特征加权。此外，它适用于所有 CNN 模型，无需修改层或重新训练模型。实证结果表明，在弱监督物体定位上，相较于所比较方法中的最佳方法，其性能提升高达 12%。