基于原型引导的可解释反事实解释
机器学习
2020-02-19 v2 机器学习
摘要
我们提出了一种快速、模型无关的方法，通过使用类原型来寻找分类器预测的可解释反事实解释。我们表明，使用编码器或特定类 k-d 树获得的类原型，显著加快了反事实样本的搜索速度，并产生了更具可解释性的解释。我们引入了两个新颖的度量，在实例级别定量评估局部可解释性。我们使用这些度量分别在图像和表格数据集（即 MNIST 和 Breast Cancer Wisconsin (Diagnostic)）上说明了我们方法的有效性。该方法还消除了由于黑盒模型的数值梯度评估而产生的计算瓶颈。
引用
@article{arxiv.1907.02584,
title = {Interpretable Counterfactual Explanations Guided by Prototypes},
author = {Arnaud Van Looveren and Janis Klaise},
journal= {arXiv preprint arXiv:1907.02584},
year = {2020}
}
备注
17 pages, 13 figures. For an open source implementation of the algorithm, see https://github.com/SeldonIO/alibi