通过 Shapley 群组精炼解释黑箱决策
机器学习
2020-10-05 v2 人工智能
计量经济学
机器学习
摘要
我们引入一种变量重要性度量，以量化单个输入变量对黑箱函数的影响。我们的度量基于合作博弈论中的 Shapley 值。许多变量重要性度量通过更改某些预测变量值而固定其他变量来运作，可能产生不太可能甚至逻辑上不可能的组合。我们的群组 Shapley 度量仅使用观测数据点。我们不是更改预测变量的值，而是包含或排除在该预测变量上类似于目标主体的对象，以形成相似性群组。然后我们将 Shapley 值应用于群组平均值。我们将可解释 AI 中的变量重要性度量与全局敏感性分析中的函数分解联系起来。我们引入了平方群组 Shapley 值，在主体上拆分先前研究的 Shapley 效应，与 Shapley 公理一致。
引用
@article{arxiv.1911.00467,
title = {Explaining black box decisions by Shapley cohort refinement},
author = {Masayoshi Mase and Art B. Owen and Benjamin Seiler},
journal= {arXiv preprint arXiv:1911.00467},
year = {2020}
}