通过构建具有自顶向下层次学习的动态序贯决策森林使 CNN 可解释
计算机视觉与模式识别
2021-06-08 v1
摘要
本文提出一种通用模型迁移方案，使卷积神经网络（CNN）在保持高分类精度的同时具备可解释性。我们通过在 CNN 之上构建可微分决策森林来实现这一点，该森林具有两个特点：1）在训练过程中，森林的树形层次在预训练 CNN 权重中嵌入的类别语义引导下以自顶向下方式学习；2）在推理过程中，针对每个输入样本从森林中动态选择单棵决策树，使迁移模型能够基于语义相似类别共享的属性进行序贯决策，而非直接进行扁平分类。我们将迁移模型命名为深度动态序贯决策森林（dDSDF）。实验结果表明，dDSDF 不仅比其对应模型即原始 CNN 取得更高的分类精度，而且具有更好的可解释性：定性上其层次合理，定量上其生成的显著图更为精确。
引用
@article{arxiv.2106.02824,
title = {Making CNNs Interpretable by Building Dynamic Sequential Decision Forests with Top-down Hierarchy Learning},
author = {Yilin Wang and Shaozuo Yu and Xiaokang Yang and Wei Shen},
journal= {arXiv preprint arXiv:2106.02824},
year = {2021}
}