基于神经影像数据训练的卷积神经网络模型的特征可视化
计算机视觉与模式识别
2022-03-25 v1
摘要
机器学习模型应用于临床决策的一个主要前提是可信性与可解释性。神经影像界当前的可解释性研究多聚焦于解释训练后模型（如由卷积神经网络 CNN 所得）的单个决策。使用如逐层相关性传播或 SHAP 等归因方法可生成热力图，高亮输入中相对于决策更为相关的区域。尽管这可检测潜在的数据集偏差并可作为人类专家的引导，其无助于理解模型所学到的底层原理。在本研究中，据我们所知，我们首次展示了使用神经影像 CNN 特征可视化的结果。具体地，我们基于结构磁共振成像（MRI）数据训练了用于不同任务的 CNN，包括性别分类与人工病灶分类。随后我们迭代生成可最大激活特定神经元的图像，以可视化其所响应的模式。为改善可视化效果，我们比较了若干正则化策略。所得图像揭示了人工病灶的学习概念（包括其形状），但在性别分类任务中对抽象特征仍难以解释。
引用
@article{arxiv.2203.13120,
title = {Feature visualization for convolutional neural network models trained on neuroimaging data},
author = {Fabian Eitel and Anna Melkonyan and Kerstin Ritter},
journal= {arXiv preprint arXiv:2203.13120},
year = {2022}
}