RealAC：一个领域无关的逼真且可操作的反事实解释框架
机器学习
2025-08-15 v1 人工智能
摘要
反事实解释通过描述改变模型预测所需的对输入特征的最小更改，为AI做出的决策提供人类可理解的推理。要在实践中真正有用，此类解释必须逼真且可行——它们应同时尊重底层数据分布和用户定义的可行性约束。现有方法通常通过僵化的手工约束或领域特定知识来强制特征间的依赖关系，这限制了它们的泛化能力以及捕捉数据中固有的复杂非线性关系的能力。此外，它们很少能适应用户指定的偏好，并且会建议在因果上不合理或无法执行的反事实解释。我们引入了RealAC，一个用于生成逼真且可操作的反事实解释的领域无关框架。RealAC通过对齐事实实例与反事实实例之间特征对的联合分布，自动保留复杂的特征间依赖关系，而无需依赖显式的领域知识。该框架还允许最终用户通过优化过程中抑制冻结特征的变化来“冻结”他们不能或不想改变的属性。在三个合成数据集和两个真实数据集上的评估表明，RealAC在逼真性与可操作性之间取得了平衡。我们的方法在因果边得分、依赖保留得分和IM1逼真度指标上优于最先进的基线方法以及基于大语言模型的反事实生成技术，并为因果感知和以用户为中心的反事实生成提供了一种解决方案。
引用
@article{arxiv.2508.10455,
title = {RealAC: A Domain-Agnostic Framework for Realistic and Actionable Counterfactual Explanations},
author = {Asiful Arefeen and Shovito Barua Soumma and Hassan Ghasemzadeh},
journal= {arXiv preprint arXiv:2508.10455},
year = {2025}
}