Respond-CAM：通过可视化分析面向三维成像数据的深度模型
计算机视觉与模式识别
2018-06-08 v2
摘要
卷积神经网络（CNN）已成为各种生物医学图像分析任务的强大工具，但缺乏对 CNN 工作机制的视觉解释。本文提出一种新颖算法——响应加权类激活映射（Respond-CAM），通过可视化对预测重要的输入区域，使基于 CNN 的模型可解释，尤其针对生物医学三维成像数据输入。我们的方法利用流入卷积层的任意目标概念（如目标类分数）的梯度。将加权特征图组合以生成热力图，突出图像中对预测该目标概念重要的区域。我们证明了 Respond-CAM 具有理想的求和至分数（sum-to-score）性质，并验证了其在当前最先进方法基础上的三维图像上的显著改进。我们在细胞电子冷冻断层扫描（Cellular Electron Cryo-Tomography）三维图像上的测试表明，Respond-CAM 在以三维生物医学图像为输入可视化 CNN 方面取得了优越性能，并且能以合理良好的结果可视化以自然图像为输入的 CNN。Respond-CAM 是一种高效可靠的可视化 CNN 工作机制的方法，适用于多种 CNN 模型族和图像分析任务。
引用
@article{arxiv.1806.00102,
title = {Respond-CAM: Analyzing Deep Models for 3D Imaging Data by Visualizations},
author = {Guannan Zhao and Bo Zhou and Kaiwen Wang and Rui Jiang and Min Xu},
journal= {arXiv preprint arXiv:1806.00102},
year = {2018}
}