CF-CAM：基于聚类的类激活映射以实现可靠的梯度基于解释性
机器学习
2025-04-24 v2 人工智能
计算机视觉与模式识别
摘要
随着深度学习的不断进步，神经网络决策透明性仍然是一个关键挑战，限制了其在高风险领域的信任和应用。类激活映射（CAM）技术已成为可视化模型决策的关键方法，但现有方法面临内在权衡。梯度基于的 CAM 变体因梯度噪声而对梯度扰动敏感，导致解释不稳定且不可靠。相反，梯度无关方法虽然缓解了梯度不稳定性，但计算开销大，推理延迟高。为解决这些限制，我们提出一种聚类滤波类激活映射（CF-CAM）技术，一种新型框架，通过重新引入梯度基于的权重来增强对梯度噪声的鲁棒性。CF-CAM 采用分层重要性加权策略来平衡判别特征保留与噪声消除。基于基于噪声空间聚类应用（DBSCAN）的密度感知通道聚类方法对语义相关特征通道进行分组并丢弃噪声易激活的通道。此外，聚类条件梯度过滤利用高斯滤波器来细化梯度信号，在保留边缘感知定位的同时抑制噪声影响。实验结果表明，CF-CAM 在可靠性和计算效率方面均优于最先进的 CAM 方法，在忠实度和鲁棒性方面均表现出色。通过在不产生额外计算成本的情况下有效缓解梯度不稳定性，CF-CAM 为增强深度神经网络在自主驾驶和医疗诊断等关键应用中的解释性提供了具竞争力的解决方案。
引用
@article{arxiv.2504.00060,
title = {CF-CAM: Cluster Filter Class Activation Mapping for Reliable Gradient-Based Interpretability},
author = {Hongjie He and Xu Pan and Yudong Yao},
journal= {arXiv preprint arXiv:2504.00060},
year = {2025}
}