具有最小可满足扰动的灵活且鲁棒的反事实解释
机器学习
2023-09-12 v1 人工智能
统计方法学
摘要
反事实解释（CFE）示例说明了如何对特征向量进行最小修改，以使某实例获得不同的预测。CFE 可增强信息公平性与可信度，并为收到不利预测的用户提供建议。然而，近期研究表明，对于相同或略有差异的实例可提供多个 CFE。多个 CFE 提供了灵活选择并涵盖用户选取的多样诉求。但若返回具有不同代价的不稳定 CFE，则会损害个体公平性与模型可靠性。现有方法未能同时利用灵活性并解决非鲁棒性的担忧。为解决这些问题，我们提出了一种概念简单却有效的方案，称为具有最小可满足扰动的的反事实解释（CEMSP）。具体而言，CEMSP 借助异常特征在语义上有意义的正常取值范围来约束其改变值。为提升效率，我们将该问题建模为布尔可满足性问题，以尽可能少地修改特征。此外，CEMSP 是一个通用框架，可轻松容纳更实际的需求，例如因果性与可操作性。与现有方法相比，我们在合成与真实世界数据集上进行了综合实验，表明我们的方法在保持灵活性的同时提供了更鲁棒的解释。
引用
@article{arxiv.2309.04676,
title = {Flexible and Robust Counterfactual Explanations with Minimal Satisfiable Perturbations},
author = {Yongjie Wang and Hangwei Qian and Yongjie Liu and Wei Guo and Chunyan Miao},
journal= {arXiv preprint arXiv:2309.04676},
year = {2023}
}
备注
Accepted by CIKM 2023