用于解释神经网络的神经网络无监督学习（扩展摘要）
机器学习
2019-01-24 v1 人工智能
机器学习
摘要
本文提出一种无监督方法来学习一个神经网络，即解释器（explainer），以解释预训练的卷积神经网络（CNN），即解释器使用可解释的视觉概念来解释 CNN 中间卷积层中的特征。给定 CNN 某一卷积层的特征图，解释器表现得像一个自编码器，将特征图分解为物体部件特征。学习得到的物体部件特征可在不损失太多信息的情况下重建 CNN 特征。我们可以将解耦的物体部件表示视为 CNN 特征的一种释义，有助于人们理解 CNN 所编码的知识。更关键的是，我们通过知识蒸馏学习解释器，无需使用任何物体部件或纹理的标注作为监督。在实验中，我们的方法被广泛用于解释不同基准 CNN 的特征，且解释器在显著提升特征可解释性的同时未损害 CNN 的判别能力。
引用
@article{arxiv.1901.07538,
title = {Unsupervised Learning of Neural Networks to Explain Neural Networks (extended abstract)},
author = {Quanshi Zhang and Yu Yang and Ying Nian Wu},
journal= {arXiv preprint arXiv:1901.07538},
year = {2019}
}
备注
In AAAI-19 Workshop on Network Interpretability for Deep Learning. arXiv admin note: substantial text overlap with arXiv:1805.07468