通过保留人工定义约束实现可行且合意的反事实生成
机器学习
2022-10-13 v1 人机交互
摘要
我们提出了一种人在回路方法，用于生成保留全局与局部可行性约束的反事实（CF）解释。全局可行性约束指生成可操作 CF 解释所必需的因果约束。假设领域专家具备关于一元与二元因果约束的知识，我们的方法高效利用该知识，通过拒绝违反这些约束的梯度步来生成 CF 解释。局部可行性约束编码了终端用户对生成合意 CF 解释的约束。我们从模型终端用户处提取这些约束，并借助用户定义的距离度量在 CF 生成过程中加以利用。通过用户研究，我们表明在 CF 生成中融入因果约束可显著提升参与者在可行性与合意性方面的解释质量。同时采用局部与全局可行性约束虽提升了用户满意度，但相较于仅融入全局约束并未显著提升参与者的合意性。
引用
@article{arxiv.2210.05993,
title = {Feasible and Desirable Counterfactual Generation by Preserving Human Defined Constraints},
author = {Homayun Afrabandpey and Michael Spranger},
journal= {arXiv preprint arXiv:2210.05993},
year = {2022}
}