基于 Grad-CAM 的视觉解释对更深层神经网络是否更可靠？以自动气胸诊断为例的研究
图像与视频处理
2023-08-30 v1 计算机视觉与模式识别
机器学习
摘要
尽管深度学习技术已在多种临床任务中取得最先进的性能，但其决策过程的可解释性能够极大提升这些方法在更安全、更快速的临床应用中的可信度。凭借高度的灵活性，梯度加权类激活映射（Grad-CAM）已被广泛采用，为计算机辅助诊断中各类深度学习模型的推理过程提供直观的视觉解释。然而，尽管该技术十分流行，目前仍缺乏关于 Grad-CAM 在不同深度学习架构上表现的系统性研究。在本研究中，我们以 X 射线扫描中的自动气胸诊断为案例，考察其在不同流行深度学习模型上的鲁棒性与有效性，重点关注网络深度与架构类型的影响。我们的结果表明，更深的神经网络未必能显著改善气胸诊断准确率，且 Grad-CAM 的有效性在不同网络架构间也存在差异。
引用
@article{arxiv.2308.15172,
title = {Is visual explanation with Grad-CAM more reliable for deeper neural networks? a case study with automatic pneumothorax diagnosis},
author = {Zirui Qiu and Hassan Rivaz and Yiming Xiao},
journal= {arXiv preprint arXiv:2308.15172},
year = {2023}
}