利用SHAP生成反事实与对比解释
机器学习
2019-06-25 v1 人工智能
机器学习
摘要
随着GDPR的出台，可解释AI与模型可解释性领域获得了额外推动力。提取并传达决策模型可见性的方法已成为法律要求。对比式与反事实式两类特定解释已被认为适合人类理解。本文提出一种模型无关方法及其系统实现，利用沙普利加性解释（SHAP）生成这些解释。我们讨论了一个生成对比解释的流水线，并进一步利用它生成反事实数据点。该流水线在IRIS、葡萄酒质量与移动特征数据集上进行了测试与讨论。随后对所得结果进行了分析。
引用
@article{arxiv.1906.09293,
title = {Generating Counterfactual and Contrastive Explanations using SHAP},
author = {Shubham Rathi},
journal= {arXiv preprint arXiv:1906.09293},
year = {2019}
}
备注
This work was presented at 2nd Workshop on Humanizing AI (HAI) at IJCAI'19 in Macao, China