Born Identity网络：用于解释分类器决策的多向反事实图生成
计算机视觉与模式识别
2021-04-09 v4 人工智能
机器学习
摘要
深度学习模型的性能与可解释性之间存在明显的负相关。为减小此负相关，我们提出Born Identity网络（BIN），一种用于生成多向反事实图的事后方法。反事实图将输入样本变换为以目标标签为条件并被分类为该标签，类似于人类通过反事实思维处理知识。例如，反事实图可定位正常脑图像中可能导致其被诊断为疾病的假设性异常。具体地，我们提出的BIN由两个核心组件构成：反事实图生成器与目标归因网络。反事实图生成器是条件GAN的一种变体，可合成以任意目标标签为条件的反事实图。目标归因网络通过将目标标签注入反事实图生成器，为合成图的生成提供充分辅助。我们在MNIST、3D Shapes与ADNI数据集上通过定性与定量分析验证了所提BIN，并从多种消融研究展示了我们方法的可理解性与保真度。
引用
@article{arxiv.2011.10381,
title = {Born Identity Network: Multi-way Counterfactual Map Generation to Explain a Classifier's Decision},
author = {Kwanseok Oh and Jee Seok Yoon and Heung-Il Suk},
journal= {arXiv preprint arXiv:2011.10381},
year = {2021}
}
备注
17 pages, 10 figures