CHAIN：深度卷积神经网络的概念协调分层推理解释
计算机视觉与模式识别
2020-02-06 v1
摘要
随着网络的巨大成功，对网络内部机制尤其是网络决策逻辑解释的需求日益增长。为应对该挑战，提出概念协调分层推理(CHAIN)来解释网络决策过程。对于待解释的网络决策，所提方法呈现 CHAIN 解释，其中网络决策可从高到低语义层级分层推导为视觉概念。为此，我们依次提出三个模型，即概念协调模型、分层推理模型和概念协调分层推理模型。首先，在概念协调模型中，从高到低语义层级的视觉概念与从深到浅层的网络单元对齐。其次，在分层推理模型中，深层中的概念被拆解为浅层中的单元。最后，在概念协调分层推理模型中，深层概念由其浅层概念推断得出。经过若干轮后，概念协调分层推理从最高语义层级向最低语义层级反向进行。最终，网络决策被解释为概念协调分层推理的形式，可与人类决策相类比。同时，基于分层视觉概念可解释用于特征学习的网络层结构。在定量与定性实验中，我们在实例与类别层级上展示了 CHAIN 的有效性。
引用
@article{arxiv.2002.01660,
title = {CHAIN: Concept-harmonized Hierarchical Inference Interpretation of Deep Convolutional Neural Networks},
author = {Dan Wang and Xinrui Cui and Z. Jane Wang},
journal= {arXiv preprint arXiv:2002.01660},
year = {2020}
}