使用控制变量法稳定Shapley值估计
机器学习
2024-04-11 v3 机器学习
摘要
Shapley值是解释黑盒机器学习模型预测最受欢迎的工具之一。然而，其高计算成本促使人们使用采样近似，引入了相当程度的不确定性。为稳定这些模型解释，我们提出ControlSHAP，一种基于控制变量的蒙特卡洛技术的方法。我们的方法适用于任意机器学习模型，且几乎不需要额外计算或建模工作。在多个高维数据集上，我们发现它能大幅降低Shapley估计的蒙特卡洛变异性。
引用
@article{arxiv.2310.07672,
title = {Stabilizing Estimates of Shapley Values with Control Variates},
author = {Jeremy Goldwasser and Giles Hooker},
journal= {arXiv preprint arXiv:2310.07672},
year = {2024}
}