通过低维结构函数分解统一局部与全局模型解释
机器学习
2023-02-24 v2 统计理论
机器学习
统计理论
摘要
我们考虑将回归或分类函数全局表示为按任意阶主效应与交互效应分量之和的分解。我们提出一种新的识别约束，允许提取干预式 SHAP 值与偏依赖图，从而统一局部与全局解释。在我们提出的识别下，某特征的偏依赖图对应于主效应项加截距。特征 的干预式 SHAP 值是主分量与所有包含 的交互分量的加权和，权重由该分量维度的倒数给出。这为先前仅由博弈论驱动的 SHAP 值等局部解释带来了新视角。我们表明该分解可通过移除所有包含受保护特征的分量来降低直接与间接偏差。最后，我们提出了一种特征重要性的新度量。原则上，我们提出的函数分解可应用于任何机器学习模型，但精确计算仅对低维结构或其集成可行。我们为梯度提升树（xgboost）与随机种植森林提供了算法与高效实现。实验表明我们的方法提供有意义的解释并揭示高阶交互。所提方法已在 R 包中实现，见 \url{https://github.com/PlantedML/glex}。
引用
@article{arxiv.2208.06151,
title = {Unifying local and global model explanations by functional decomposition of low dimensional structures},
author = {Munir Hiabu and Joseph T. Meyer and Marvin N. Wright},
journal= {arXiv preprint arXiv:2208.06151},
year = {2023}
}