FASTER-CE：快速、稀疏、透明且鲁棒的反事实解释
机器学习
2022-10-14 v1
摘要
在过去几年中，反事实解释作为一种有用且以人为中心的理解个体黑盒模型预测的方式已大幅流行。尽管文献中已识别出高质量反事实所期望的若干性质，但三个关键问题：解释生成的速度、鲁棒性/敏感性以及解释的简洁性（稀疏性）相对未被探索。在本文中，我们提出 FASTER-CE：一组用于生成快速、稀疏且鲁棒的反事实解释的新算法。其核心思想是在通过自编码器指定的潜空间中高效寻找有希望的反事实搜索方向。这些方向是基于对每个原始输入特征以及目标（在潜空间中估计）的梯度来确定的。能够快速检查最有希望的梯度方向组合以及纳入额外的用户定义约束，使我们能够生成多个稀疏、真实且对输入操纵鲁棒的反事实解释。通过在三个具有不同复杂度的数据集上的实验，我们表明 FASTER-CE 不仅比其他生成多个解释的 state of the art 方法快得多，而且在考虑更大一组期望的（且常常冲突的）性质时显著更优。具体地，我们展示了跨多个性能度量的结果：稀疏性、邻近性、有效性、生成速度以及解释的鲁棒性，以凸显 FASTER-CE 系列的能力。
引用
@article{arxiv.2210.06578,
title = {FASTER-CE: Fast, Sparse, Transparent, and Robust Counterfactual Explanations},
author = {Shubham Sharma and Alan H. Gee and Jette Henderson and Joydeep Ghosh},
journal= {arXiv preprint arXiv:2210.06578},
year = {2022}
}