NeuroMask：通过掩码学习解释深度神经网络预测
计算机视觉与模式识别
2019-08-14 v1 机器学习
机器学习
摘要
深度神经网络（DNN）在许多图像识别与理解应用中提供最先进的性能。然而，尽管性能卓越，这些模型仍是黑盒，难以理解其决策方式。过去几年，研究者探讨了为 DNN 预测结果提供解释的问题。但现有技术要么具侵入性，需改动模型训练，要么输出质量较低。本文提出一种新方法 NeuroMask，用于生成分类模型结果的可解释说明。应用于图像分类模型时，NeuroMask 通过在将图像送回模型前施加掩码以隐藏/显露图像不同部分，识别对分类结果最重要的图像区域。掩码值通过最小化恰当设计的、保持分类结果并促使生成可解释掩码的损失函数来调整。在 CIFAR-10 与 ImageNet 等不同数据集上使用最先进卷积神经网络进行图像识别的实验表明，NeuroMask 成功定位了与 DNN 决策最相关的输入图像部分。通过将 NeuroMask 解释与其他方法的可视化质量对比，我们发现 NeuroMask 既准确又可解释。
引用
@article{arxiv.1908.04389,
title = {NeuroMask: Explaining Predictions of Deep Neural Networks through Mask Learning},
author = {Moustafa Alzantot and Amy Widdicombe and Simon Julier and Mani Srivastava},
journal= {arXiv preprint arXiv:1908.04389},
year = {2019}
}