基于Lucid的 illuminated 决策树：用于白细胞图像分类模型的可视化与解释
计算机视觉与模式识别
2019-09-15 v1 人机交互
机器学习
摘要
Olah等人(2018)描述的Lucid方法提供了一种利用特征可视化检视训练于图像分类任务的神经网络内部机制的方式。此类方法通常应用于在视觉丰富的大规模图像数据集(如ImageNet)上训练的网络，从而能产生引人注目的特征可视化。为进一步探究这些方法，我们将它们应用于训练来执行更简单(就数据集规模和视觉丰富度而言)但具挑战性的任务：从显微镜图像中区分不同类型白细胞的分类器。该任务使得生成有用的特征可视化变得困难，因为判别性特征本质上难以辨识和解释。为此，我们提出“Illuminated Decision Tree( illuminated 决策树)”方法：将训练于该任务的神经网络用作特征提取器，基于这些特征学习决策树，并为树中每个节点提供Lucid可视化。我们通过若干示例展示该方法，说明其在模型开发与调试以及向非专家解释模型输出方面的用处。
引用
@article{arxiv.1909.05644,
title = {Illuminated Decision Trees with Lucid},
author = {David Mott and Richard Tomsett},
journal= {arXiv preprint arXiv:1909.05644},
year = {2019}
}
备注
Presented at BMVC 2019: Workshop on Interpretable and Explainable Machine Vision, Cardiff, UK