CoGS：基于面向目标ASP的模型无关因果约束反事实解释
人工智能
2024-10-31 v1
摘要
机器学习模型在贷款审批和招聘等关键领域的使用日益增多，但它们往往作为黑箱运作，掩盖了其决策过程。透明度至关重要，因为个体需要解释来理解决策，尤其是当决策导致不理想的结果时。我们的工作提出了CoGS（Counterfactual Generation with s(CASP)），一个能够为分类模型生成反事实解释的模型无关框架。CoGS利用面向目标的答案集规划系统s(CASP)来计算特征值的现实且因果一致的修改，考虑了特征之间的因果依赖关系。通过使用基于规则的机器学习算法（RBML），特别是FOLD-SE算法，CoGS提取统计模型的内在逻辑以生成反事实解。通过追踪一条从不利结果到期望结果的逐步路径，CoGS提供了关于实现期望结果所需变化的可解释且可操作的解释。我们给出了CoGS框架的详情及其评估。
引用
@article{arxiv.2410.22615,
title = {CoGS: Model Agnostic Causality Constrained Counterfactual Explanations using goal-directed ASP},
author = {Sopam Dasgupta and Joaquín Arias and Elmer Salazar and Gopal Gupta},
journal= {arXiv preprint arXiv:2410.22615},
year = {2024}
}
备注
arXiv admin note: substantial text overlap with arXiv:2407.08179