CAPE: 作为概率性集合的 CAM 用于增强 DNN 解释
计算机视觉与模式识别
2024-04-05 v2
摘要
深度神经网络 (DNN) 广泛用于视觉分类任务，但其复杂的计算过程和黑盒性质阻碍了决策的透明度和可解释性。类激活图 (CAM) 及其最近的变体提供了一种通过显示 DNN 注意力热力图的方式来解释 DNN 决策过程的方法。然而，CAM 解释仅提供相对注意力信息，即在注意力热力图上，我们可以解释哪些图像区域比其他区域更或更不重要。但是，这些区域无法在类别之间进行有意义的比较，也无法揭示每个区域对模型类别预测的贡献。为了解决这些最终导致更好 DNN 解释的挑战，本文提出了 CAPE，这是一种 CAM 的新型改进方案，通过提供对图像区域贡献的统一且具有概率意义的评估来解决上述问题。我们在 CUB 和 ImageNet 基准数据集上对 CAPE 与最先进的 CAM 方法进行了定量和定性比较，以证明其可解释性提升。我们还在一个显示具有挑战性的慢性髓系单核白血病 (CMML) 诊断问题的骨髓细胞图像数据集上进行了测试。代码可在 https://github.com/AIML-MED/CAPE 获取。
引用
@article{arxiv.2404.02388,
title = {CAPE: CAM as a Probabilistic Ensemble for Enhanced DNN Interpretation},
author = {Townim Faisal Chowdhury and Kewen Liao and Vu Minh Hieu Phan and Minh-Son To and Yutong Xie and Kevin Hung and David Ross and Anton van den Hengel and Johan W. Verjans and Zhibin Liao},
journal= {arXiv preprint arXiv:2404.02388},
year = {2024}
}