CHIP：深度卷积神经网络的通道级解耦解释模型
计算机视觉与模式识别
2019-12-17 v2 机器学习
摘要
随着深度卷积神经网络（DCNNs）的广泛应用，DCNNs 不仅需要进行准确预测，还需要解释其决策过程，这一点变得愈发重要。本文提出一种通道级解耦解释（CHannel-wise disentangled InterPretation, CHIP）模型，为 DCNNs 的预测提供可视化解释。该模型利用稀疏正则化来提取网络中通道的类别判别重要性。在此，我们首先引入网络扰动技术来学习该模型。所提模型不仅能够从网络中提取全局视角知识，还能为网络的具体预测提供类别判别的可视化解释。值得注意的是，该模型无需重新训练即可解释网络的不同层。通过结合不同层中提取的解释知识，我们进一步提出了精细 CHIP 可视化解释，其兼具高分辨率和类别判别性。在标准数据集上的实验结果表明，与现有可视化解释方法相比，所提模型在图像分类任务中为网络预测提供了有前景的可视化解释。此外，在 ILSVRC 2015 弱监督定位任务的应用中，所提方法优于相关方法。
引用
@article{arxiv.1902.02497,
title = {CHIP: Channel-wise Disentangled Interpretation of Deep Convolutional Neural Networks},
author = {Xinrui Cui and Dan Wang and Z. Jane Wang},
journal= {arXiv preprint arXiv:1902.02497},
year = {2019}
}
备注
15 pages, 10 figures