用于可解释深度学习的生成式反事实自省
机器学习
2019-07-09 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
在这项工作中，我们提出了一种依赖于生成模型对输入图像进行显著编辑以实现模型解释的深度神经网络自省技术。这种修改提供了允许我们获得反事实询问答案的基本干预操作，即，为改变预测可对输入图像做何种有意义的更改。我们展示了如何通过在MNIST和CelebA数据集上利用所提出的自省方法来揭示给定分类器的有趣性质。
引用
@article{arxiv.1907.03077,
title = {Generative Counterfactual Introspection for Explainable Deep Learning},
author = {Shusen Liu and Bhavya Kailkhura and Donald Loveland and Yong Han},
journal= {arXiv preprint arXiv:1907.03077},
year = {2019}
}