面向SHAP的条件期望网络

SHapley Additive exPlanation（SHAP）是一种非常流行的用于解释预测模型的模型无关技术。SHAP最流行的两个版本是条件期望版本与无条件期望版本（后者亦称干预式SHAP）。除基于树的方法外，通常出于计算原因使用无条件版本。我们提供一种（代理）神经网络方法，使我们能高效计算神经网络及其他回归模型的条件版本，并恰当考虑特征分量间的依赖结构。该方案亦可用于在复杂回归模型中提供类似于广义线性模型（GLM）对应项的drop1与anova分析，并且我们提供了一种考虑特征分量间正确依赖结构的偏依赖图（PDP）对应方法。