Soft-CAM：使黑箱模型在医学图像分析中自我可解释
机器学习
2026-02-23 v2 计算机视觉与模式识别
摘要
卷积神经网络（CNN）广泛用于医疗等高风险领域，常常超越人类水平。然而，大多数解释方法依赖于后置归因，近似已训练的黑箱模型的决策过程。这些方法往往敏感、不可靠，且未能反映模型的真实推理，限制了其在关键应用中的可信度。在本文中，我们引入 SoftCAM，一种简单而有效的方法，使标准 CNN 架构具备内在可解释性。通过移除全局平均池化层并用卷积-based 类别证据层取代全连接分类层，SoftCAM 保留了空间信息并产生显式的类激活图，这些激活图构成模型预测的基础。在三个医学数据集上评估，SoftCAM 在保持分类性能的同时，显著改进了与现有后置方法相比的定性和定量解释。我们的结果表明，CNN 可以在不牺牲性能的情况下具备内在可解释性，推动了面向高风险决策的自我可解释深度学习的发展。代码地址：https://github.com/kdjoumessi/SoftCAM
引用
@article{arxiv.2505.17748,
title = {Soft-CAM: Making black box models self-explainable for medical image analysis},
author = {Kerol Djoumessi and Philipp Berens},
journal= {arXiv preprint arXiv:2505.17748},
year = {2026}
}
备注
Accepted at the Medical Imaging with Deep Learning Conference (MIDL 2026)