通过隐空间投影与插值的反事实解释
机器学习
2021-12-03 v1
摘要
反事实解释表示改变数据样本预测分类所需的最小改动，通常是从不利的初始类到期望目标类。反事实有助于回答诸如“为使该申请获得贷款批准需要改变什么？”之类的问题。近期提出的若干反事实生成方法对“合理”反事实给出了不同定义及生成方法。然而，许多此类方法计算密集且提供的解释缺乏说服力。这里我们引入 SharpShooter，一种用于二分类的方法，其首先创建分类为目标类的输入的投影版本。然后在输入与其投影之间的插值线上于隐空间生成反事实候选。我们随后证明，我们的框架通过习得表征将样本的核心特征迁移至其反事实。此外，我们表明 SharpShooter 在表格和图像数据集的常见质量指标上具有竞争力，同时比两种可比方法快数个数量级，并在真实感度量上表现出色，使其非常适用于需要及时解释的高速机器学习应用。
引用
@article{arxiv.2112.00890,
title = {Counterfactual Explanations via Latent Space Projection and Interpolation},
author = {Brian Barr and Matthew R. Harrington and Samuel Sharpe and C. Bayan Bruss},
journal= {arXiv preprint arXiv:2112.00890},
year = {2021}
}
备注
10 pages, 6 figures