超越显著图：训练深度模型以解释深度模型
图像与视频处理
2021-06-29 v2 计算机视觉与模式识别
机器学习
摘要
可解释性是将复杂深度学习模型应用于神经影像研究以增进对脑疾病理解的关键要素。为解释已训练分类器的决策过程，现有技术通常依赖显著图通过偏导数量化用于分类的体素级或特征级重要性。尽管提供了一定程度的定位，这些图从神经科学视角并非人类可理解，因为它们未告知与脑疾病相关的改变的具体含义。受图像到图像翻译框架启发，我们提出训练模拟器网络，可将给定图像扭曲以注入或移除疾病模式。这些网络被训练为使分类器对模拟图像产生持续增高或降低的预测对数几率。此外，我们提出基于条件卷积将所有模拟器耦合为统一模型。我们将该方法应用于解释在合成数据集与两个神经影像数据集上训练的分类器，以可视化阿尔茨海默病与酒精使用障碍的效应。相较于基线方法生成的显著图，我们基于扭曲场的雅可比行列式所做的模拟与可视化揭示了与疾病相关且有意义、可理解的图案。
引用
@article{arxiv.2102.08239,
title = {Going Beyond Saliency Maps: Training Deep Models to Interpret Deep Models},
author = {Zixuan Liu and Ehsan Adeli and Kilian M. Pohl and Qingyu Zhao},
journal= {arXiv preprint arXiv:2102.08239},
year = {2021}
}