使用反事实推理的因果生成解释器：基于 Morpho-MNIST 数据集的案例研究
机器学习
2024-01-23 v1
摘要
在本文中，我们提出利用因果生成学习作为解释图像分类器的可解释工具。具体而言，我们提出了一种生成式反事实推理方法，通过生成学习来研究视觉特征（即像素）以及因果因素的影响。为此，我们首先通过反事实推理改变因果属性的值，并计算具有这些不同属性值的反事实图像的 Shapley 值和对比解释，从而揭示对分类器决策影响最大的像素。然后，我们利用因果生成模型的生成器建立了一个 Monte-Carlo 机制，以便在分类器仅在数据集图像上训练的情况下，将 Shapley 解释器适配为产生因果数据集人类可解释属性的特征重要性。最后，我们提出了通过反事实推理创建分类器反事实解释的优化方法，为可微分类器和任意分类器提供了直接的途径。我们利用 Morpho-MNIST 因果数据集作为案例研究，以探索我们提出的生成反事实解释的方法。我们采用 OmnixAI 开源工具包中的视觉解释方法，将其与我们提出的方法进行比较。通过采用定量指标来衡量反事实解释的可解释性，我们发现我们提出的反事实解释方法相比 OmnixAI 生成的方法提供了更具可解释性的解释。这一发现表明，我们的方法非常适合在因果数据集上生成高度可解释的反事实解释。
引用
@article{arxiv.2401.11394,
title = {Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset},
author = {Will Taylor-Melanson and Zahra Sadeghi and Stan Matwin},
journal= {arXiv preprint arXiv:2401.11394},
year = {2024}
}