用于评估医学图像分类神经网络鲁棒性的可视化方法
图像与视频处理
2020-02-11 v3 神经与进化计算
摘要
在医学影像领域，使用神经网络进行诊断分类正变得越来越普遍。然而，深度学习方法的输出仍难以解释。另一个困难在于，在大量用于分析网络如何学习的技术中做出选择，因为它们各自存在不同的局限性。在本文中，我们扩展了 Fong 和 Vedaldi [IEEE International Conference on Computer Vision (ICCV), 2017] 的框架，以可视化卷积神经网络（CNNs）在 3D 定量神经影像数据上的训练过程。我们的应用聚焦于利用从结构 MRI 中提取的灰质概率图检测阿尔茨海默病。我们首先通过研究网络识别的纵向模式与区域的一致性，评估了该可视化方法的鲁棒性。随后，我们通过计算 CNN 不同重复运行之间基于可视化的相似性指标，研究了 CNN 训练的稳定性。我们证明了 CNN 识别的区域与已知的阿尔茨海默病特征一致，且可视化方法提取了连贯的纵向模式。我们还表明，CNN 训练并不稳定，识别的区域主要取决于初始化和训练过程。这一问题可能存在于许多其他使用深度学习方法的医学研究中，这些研究的数据集样本数过少且数据维度过高。这意味着在该领域尚无法依赖深度学习来检测稳定的感兴趣区域。
引用
@article{arxiv.1911.08264,
title = {Visualization approach to assess the robustness of neural networks for medical image classification},
author = {Elina Thibeau Sutre and Olivier Colliot and Didier Dormont and Ninon Burgos},
journal= {arXiv preprint arXiv:1911.08264},
year = {2020}
}