利用因果推断解释深度学习模型
机器学习
2018-11-13 v1 人工智能
机器学习
摘要
尽管深度学习模型已成功应用于多种任务，但由于其包含数百万参数，它们正变得愈发不透明和复杂。为建立信任以使其广泛商业应用，形式化一个原理性框架来对这些模型进行推理十分重要。本工作中，我们利用因果推断的思想来描述一个对CNN模型进行推理的通用框架。具体而言，我们构建结构因果模型（SCM）作为对CNN某一特定方面的抽象。我们还提出了一种方法，依据反事实重要性对卷积层的滤波器进行定量排序。我们以LeNet5、VGG19和ResNet32等流行的CNN架构为例说明了我们的方法。
引用
@article{arxiv.1811.04376,
title = {Explaining Deep Learning Models using Causal Inference},
author = {Tanmayee Narendra and Anush Sankaran and Deepak Vijaykeerthy and Senthil Mani},
journal= {arXiv preprint arXiv:1811.04376},
year = {2018}
}