Integrative CAM：面向 CNN 解释的自适应图层融合技术
计算机视觉与模式识别
2024-12-03 v1 人工智能
摘要
随着对可解释深度学习模型需求的不断增长，本文引入了 Integrative CAM，这是一种先进的类激活图（Class Activation Mapping，CAM）技术，旨在提供对卷积神经网络（Convolutional Neural Networks，CNN）中特征重要性的全面视图。传统的梯度基方法，如 Grad-CAM 和 Grad-CAM++，主要使用最终层的激活值来突出显示感兴趣的区域，常常忽略来自中间层的关键特征。Integrative CAM 通过跨所有网络层融合洞见，利用梯度和激活分数自适应加权图层贡献，从而为模型内部表示提供全面解释。我们的方法在显著性图计算中引入了一种新型偏置项，这在现有 CAM 技术中常被忽略，但对于捕捉更完整的特征重要性景观至关重要，因为现代 CNN 依赖加权激活和偏置来做出预测。此外，我们将 Grad-CAM++ 中的 alpha 项推广到适用于任何光滑函数，从而扩展了 CAM 的适用范围。通过在多样化且复杂的数据集上的大量实验，Integrative CAM 在特征重要性映射方面表现出优越的保真度，有效增强了对复杂融合场景和复杂决策任务的可解释性。通过将可解释性方法推进到捕捉多层模型洞察的层面，Integrative CAM 为融合驱动的应用提供了有价值的工具，促进了深度学习模型在可信且富有洞察力的部署。
引用
@article{arxiv.2412.01354,
title = {Integrative CAM: Adaptive Layer Fusion for Comprehensive Interpretation of CNNs},
author = {Aniket K. Singh and Debasis Chaudhuri and Manish P. Singh and Samiran Chattopadhyay},
journal= {arXiv preprint arXiv:2412.01354},
year = {2024}
}