改进 KernelSHAP:基于线性回归的实用 Shapley 值估计
机器学习
2021-04-26 v3 机器学习
摘要
合作博弈论中的 Shapley 值概念已成为解释机器学习(ML)模型的流行技术,但高效估计这些值仍具挑战性,尤其在模型无关设定下。本文中,我们重新审视通过线性回归估计 Shapley 值的思想,以理解并改进该方法。通过分析原始 KernelSHAP 与新提出的无偏版本,我们发展了检测其收敛性与计算不确定性估计的技术。我们还发现原始版本以可忽略的偏差增加换取了显著更低的方差,并提出了一种方差缩减技术,进一步加速了两种估计量的收敛。最后,我们开发了针对随机合作博弈的 KernelSHAP 版本,为两种全局解释方法给出了快速的新估计量。
引用
@article{arxiv.2012.01536,
title = {Improving KernelSHAP: Practical Shapley Value Estimation via Linear Regression},
author = {Ian Covert and Su-In Lee},
journal= {arXiv preprint arXiv:2012.01536},
year = {2021}
}
备注
AISTATS 2021 Camera Ready (fixed supplement)