利用扩散距离与方向一致性增强反事实解释搜索

AI 模型采用中的一个紧迫问题是对其预测提供更多以人为中心的解释的需求日益增长。为了向更以人为中心的解释迈进，理解人类如何产生和选择解释是有益的。在本工作中，受人类认知见解的启发，我们提出并测试了引入两种新颖的偏置，以增强对有效反事实解释的搜索。我们方法的核心是扩散距离的应用，它强调在搜索可行的反事实解释时的数据连通性和可操作性。具体而言，扩散距离对通过大量短长度路径相互连接更紧密的点赋予更高的权重。这种方法将紧密连接的点拉近，在它们之间识别出一条可行路径。我们还引入了一个方向一致性项，允许表达对特征空间中联合与边缘方向变化之间对齐的偏好，以达成反事实。该项使得生成的反事实解释能够与基于对模型结果如何通过一次改变一个特征而变化的预期的一组边缘预测相对齐。我们评估了我们的方法，命名为 Coherent Directional Counterfactual Explainer (CoDiCE)，以及这两种新颖偏置相对于现有方法（如 DiCE、FACE、Prototypes 和 Growing Spheres）的影响。通过对具有连续和混合类型特征的合成数据集和真实数据集进行一系列消融实验，我们证明了我们方法的有效性。