用于解释卷积神经网络的无监督神经网络学习方法
计算机视觉与模式识别
2018-05-22 v1 机器学习
摘要
本文提出一种无监督方法来学习一个神经网络，即解释器（explainer），以解释预训练的卷积神经网络（CNN），亦即解释隐藏在 CNN 中间卷积层中的知识表示。给定 CNN 某一卷积层的特征图，解释器表现得像一个自编码器，它首先将特征图解耦为物体部件特征，然后将物体部件特征反演回 CNN 较高卷积层的特征。更具体地，解释器包含可解释的卷积层，其中每个滤波器从混乱的输入特征图中解耦出特定物体部件的表示。作为 CNN 特征的释义，解耦出的物体部件表示有助于人们理解 CNN 内部的逻辑。我们还学习使解释器利用物体部件特征来重建较高 CNN 层的特征，以最小化特征解耦过程中的信息损失。更关键的是，我们通过网络蒸馏学习解释器，而不使用任何样本标签、物体部件或纹理的标注进行监督。我们已将该方法应用于不同类型的 CNN 进行评估，解释器显著提升了 CNN 特征的可解释性。
引用
@article{arxiv.1805.07468,
title = {Unsupervised Learning of Neural Networks to Explain Neural Networks},
author = {Quanshi Zhang and Yu Yang and Yuchen Liu and Ying Nian Wu and Song-Chun Zhu},
journal= {arXiv preprint arXiv:1805.07468},
year = {2018}
}