反事实 Shapley 加性解释
机器学习
2022-05-17 v4 人工智能
摘要
特征归因因能为模型中每个输入特征分配单一数值分数而简单直观，成为模型解释的常用范式。在可行动补救（actionable recourse）场景中，解释的目标是为模型使用者改善结果，而特征归因应如何被正确运用往往并不明确。本工作旨在加强并厘清可行动补救与特征归因之间的联系。具体而言，我们提出 SHAP 的一种变体——反事实 SHAP（CF-SHAP），其融入反事实信息以生成背景数据集，用于边际（亦称干预式）Shapley 值框架中。通过大量合成示例，我们论证了在可行动补救场景下使用 Shapley 值进行特征归因时，须谨慎考量背景数据集的必要性。此外，我们提出并论证了一种用于特征归因的量化指标“反事实能力”（counterfactual-ability），借此展示了 CF-SHAP 的有效性：在公开数据集上使用树集成模型评估时，按该指标衡量，CF-SHAP 优于现有方法。
引用
@article{arxiv.2110.14270,
title = {Counterfactual Shapley Additive Explanations},
author = {Emanuele Albini and Jason Long and Danial Dervovic and Daniele Magazzeni},
journal= {arXiv preprint arXiv:2110.14270},
year = {2022}
}
备注
Accepted at FAccT '22 (2022 ACM Conference on Fairness, Accountability, and Transparency)