反事实特征重要性值的计算与可视化
机器学习
2023-06-13 v1 人工智能
人机交互
摘要
尽管复杂机器学习算法取得了成功（主要得益于在预测任务中出色的表现），其固有的不透明性仍对其负责任的应用构成挑战。反事实解释作为解释个体决策结果的一种潜在方案兴起。然而，两个主要缺陷直接影响其可用性：（1）特征变化的等权视角，无法观察每个被修改特征对预测的影响“程度”；（2）缺乏可视化反事实解释的图形手段。我们引入反事实特征（变化）重要性（CFI）值作为解决方案：一种为给定反事实解释中每个特征变化赋予重要性值的方法。为计算这些值，我们提出两种潜在的CFI方法。一种简单、快速且具有贪心特性。另一种称为CounterShapley，提供了在事实-反事实对间计算Shapley值的方法。利用这些重要性值，我们进一步引入三种图表类型以可视化反事实解释：（a）贪心图，展示预测分数递增直至预测类别改变的贪心顺序路径；（b）CounterShapley图，以简单一维图描绘其相应分数；以及（c）星座图，展示所有特征变化组合及其对模型预测分数的影响。对于我们提出的每种CFI方法与可视化方案，我们展示了它们如何提供更丰富的反事实解释信息。最后，我们提供了开源实现，兼容任意反事实解释生成算法。代码仓库：https://github.com/ADMAntwerp/CounterPlots
引用
@article{arxiv.2306.06506,
title = {Calculating and Visualizing Counterfactual Feature Importance Values},
author = {Bjorge Meulemeester and Raphael Mazzine Barbosa De Oliveira and David Martens},
journal= {arXiv preprint arXiv:2306.06506},
year = {2023}
}