机器学习模型中 R 平方的 Shapley 分解
统计方法学
2019-08-27 v1
摘要
本文引入一种度量，旨在帮助机器学习从业者快速总结并传达任意黑盒机器学习预测模型中各特征的总体重要性。我们提出的度量基于经典统计中熟悉的 R^2 的 Shapley 值方差分解，是一种模型无关的特征重要性评估方法，可公平地将数据中模型可解释变异性比例分配给每个模型特征。该度量具有若干理想性质，包括界于 0 和 1 之间，以及特征级方差分解之和为整体模型 R^2。与用线性模型计算特征级 R^2 方差分解的相关方法不同，我们的方法利用预计算的 Shapley 值，从而将计算负担从迭代拟合多个模型有效转移到 Shapley 值本身。随着梯度提升决策树和神经网络 Shapley 值计算的最新进展，模型训练后计算我们所提度量的额外计算开销极小。我们的实现可在 R 包 shapFlex 中获取。
引用
@article{arxiv.1908.09718,
title = {Shapley Decomposition of R-Squared in Machine Learning Models},
author = {Nickalus Redell},
journal= {arXiv preprint arXiv:1908.09718},
year = {2019}
}
备注
9 pages, 2 figures