中文

改进 KernelSHAP:基于线性回归的实用 Shapley 值估计

机器学习 2021-04-26 v3 机器学习

摘要

合作博弈论中的 Shapley 值概念已成为解释机器学习(ML)模型的流行技术,但高效估计这些值仍具挑战性,尤其在模型无关设定下。本文中,我们重新审视通过线性回归估计 Shapley 值的思想,以理解并改进该方法。通过分析原始 KernelSHAP 与新提出的无偏版本,我们发展了检测其收敛性与计算不确定性估计的技术。我们还发现原始版本以可忽略的偏差增加换取了显著更低的方差,并提出了一种方差缩减技术,进一步加速了两种估计量的收敛。最后,我们开发了针对随机合作博弈的 KernelSHAP 版本,为两种全局解释方法给出了快速的新估计量。

关键词

引用

@article{arxiv.2012.01536,
  title  = {Improving KernelSHAP: Practical Shapley Value Estimation via Linear Regression},
  author = {Ian Covert and Su-In Lee},
  journal= {arXiv preprint arXiv:2012.01536},
  year   = {2021}
}

备注

AISTATS 2021 Camera Ready (fixed supplement)