通过决策树解释卷积神经网络
计算机视觉与模式识别
2019-02-26 v2
摘要
本文旨在定量解释预训练卷积神经网络（CNN）所做出的每个预测的依据。我们提出学习一棵决策树，该决策树在语义层面上阐明 CNN 所做出的每个预测的具体原因。即，该决策树将 CNN 高层卷积层中的特征表示分解为物体部件的基本语义概念。通过这种方式，决策树告诉人们哪些物体部件激活了哪些滤波器用于预测，以及它们对预测分数的贡献程度。这种对 CNN 预测的语义化和定量化解释，具有超越传统 CNN 像素级分析的特殊价值。更具体地，我们的方法挖掘 CNN 的所有潜在决策模式，其中每种模式代表了 CNN 如何利用物体部件进行预测的一种常见情形。决策树以由粗到细的方式组织所有潜在决策模式，以在不同细粒度层次上解释 CNN 预测。实验已证明了所提方法的有效性。
引用
@article{arxiv.1802.00121,
title = {Interpreting CNNs via Decision Trees},
author = {Quanshi Zhang and Yu Yang and Haotian Ma and Ying Nian Wu},
journal= {arXiv preprint arXiv:1802.00121},
year = {2019}
}