Decom-CAM：详述你所见！基于分解类激活图的特征级解释
计算机视觉与模式识别
2024-05-30 v2 人工智能
摘要
深度学习解释仍是一个非常具有挑战性的问题。尽管类激活图（CAM）被广泛用于通过高亮物体位置来解释深度模型预测，但它无法提供模型用于决策的关键特征的深入洞察。此外，现有评估协议常忽视可解释性表现与模型决策质量之间的关联，而这呈现了一个更根本的问题。本文提出一种称为分解类激活图（Decom-CAM）的新两阶段可解释性方法，提供对模型预测的特征级解释。Decom-CAM 利用奇异值分解将中间激活图分解为正交特征，并通过整合生成显著图。特征的正交性使 CAM 能捕捉局部特征，并可用于精确定位输入图像中的语义成分（如眼睛、鼻子与面部），从而更利于深度模型解释。为确保全面比较，我们引入一种新评估协议：依据分类准确率结果将数据集划分为子集，并分别在各子集上评估可解释性表现。我们的实验表明，所提 Decom-CAM 在所有分类准确率层级上均生成更精确的显著图，显著优于当前最优方法。结合我们的特征级可解释性方法，本文可为理解深度神经网络决策过程的新方向铺路。
引用
@article{arxiv.2306.04644,
title = {Decom--CAM: Tell Me What You See, In Details! Feature-Level Interpretation via Decomposition Class Activation Map},
author = {Yuguang Yang and Runtang Guo and Sheng Wu and Yimi Wang and Juan Zhang and Xuan Gong and Baochang Zhang},
journal= {arXiv preprint arXiv:2306.04644},
year = {2024}
}
备注
This version has not included sufficient evidence for its claims