基于解释的可视化说明：提升深度神经网络的可视化反馈能力
计算机视觉与模式识别
2019-03-11 v3 机器学习
机器学习
摘要
深度模型的解释与说明对于广泛采用依赖它们的系统至关重要。本文提出一种新颖的解释与说明方案：给定预训练模型，我们自动识别与模型所考虑类别集合相关的内部特征，而无需额外标注。我们通过该精简特征集的平均可视化来解释模型。随后在测试时，我们通过将预测类别标签与由已识别特征导出的支持性可视化一同呈现，来解释网络预测。此外，我们提出一种方法以解决基于 deconvNet 的可视化中由步幅操作引入的伪影。而且，我们引入了 an8Flower，一个专为视觉说明方法的客观定量评估而设计的数据集。在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上的实验表明，我们的方法能生成具有良好相关特征覆盖率的详细解释。
引用
@article{arxiv.1712.06302,
title = {Visual Explanation by Interpretation: Improving Visual Feedback Capabilities of Deep Neural Networks},
author = {Jose Oramas and Kaili Wang and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:1712.06302},
year = {2019}
}
备注
Accepted at International Conference on Learning Representations (ICLR) 2019. Project website: http://homes.esat.kuleuven.be/~joramas/projects/visualExplanationByInterpretation