通过注意力响应图理解解剖分类
计算机视觉与模式识别
2018-02-08 v3
摘要
基于深度学习的模型（如卷积神经网络(CNN)）广泛应用的主要挑战之一，是对其决策缺乏理解。在许多应用中，一个简单、能力较弱但易于理解的模型，优于具有优越性能的黑盒模型。本文中，我们提出一种基于模型内部激活可视化来设计CNN的方法。我们通过采用分数步长卷积技术获得的注意力响应图来可视化模型的响应，并将结果与医学文献中已知的成像标志进行比较。我们表明，足够深且能力强的模型可以成功训练以使用人类专家会使用的相同医学标志。我们的方法能够很好地传达模型决策过程，同时也为检测偏差提供见解。
引用
@article{arxiv.1611.06284,
title = {Understanding Anatomy Classification Through Attentive Response Maps},
author = {Devinder Kumar and Vlado Menkovski and Graham W. Taylor and Alexander Wong},
journal= {arXiv preprint arXiv:1611.06284},
year = {2018}
}
备注
Accepted at ISBI, 2018