通过隐式最小化认知与偶然不确定性生成可解释反事实解释
机器学习
2021-03-17 v1 应用统计
摘要
反事实解释（CEs）是说明机器学习分类器为何做出特定决策的实用工具。为使CEs有用，重要的是它们易于用户解释。现有的生成可解释CEs的方法依赖辅助生成模型，这可能不适合复杂数据集，并带来工程开销。我们引入了一种简单快速的方法，在白盒设定下无需辅助模型，利用分类器的预测不确定性生成可解释CEs。我们的实验表明，根据IM1分数，我们提出的算法比现有方法生成更具可解释性的CEs。此外，我们的方法允许我们估计CE的不确定性，这在安全关键应用（如医学领域中的应用）中可能很重要。
引用
@article{arxiv.2103.08951,
title = {Generating Interpretable Counterfactual Explanations By Implicit Minimisation of Epistemic and Aleatoric Uncertainties},
author = {Lisa Schut and Oscar Key and Rory McGrath and Luca Costabello and Bogdan Sacaleanu and Medb Corcoran and Yarin Gal},
journal= {arXiv preprint arXiv:2103.08951},
year = {2021}
}
备注
21 pages, 13 Figures