Woodelf++：用于决策树集成的快速统一偏依赖图算法

偏依赖图可视化单个特征的变化如何影响模型的平均预测。它们在实践中被广泛用于解释决策树集成和其他机器学习模型。联合偏依赖图将此思想扩展到特征对，揭示它们的组合效应。偏依赖交互值衡量特征交互作用。任意阶偏依赖交互值任务计算数据集所有行上每个特征子集的这些交互作用。我们介绍了 Woodelf++，这是一种在决策树集成上计算所有这些有用的可解释性工具的统一高效方法，建立在用于高效 SHAP 计算的 Woodelf 算法之上。通过在伪布尔函数上推导合适的度量，Woodelf++ 可以在统一框架中计算偏依赖图（精确和近似）、联合偏依赖图和任意阶偏依赖交互值。我们的方法比现有技术带来了显著的复杂度改进，包括任意阶偏依赖交互值的指数级提升。此外，我们引入并高效计算了全偏依赖图，它利用模型的分裂阈值来忠实地捕捉其在所有可能特征值上的行为。Woodelf++ 以纯 Python 实现，并支持 GPU 加速。在包含 400,000 行的数据集上，Woodelf++ 计算偏依赖图和联合偏依赖图的速度比现有技术快 6 倍，比 scikit-learn 快达五个数量级。对于任意阶偏依赖交互值，差距更大：Woodelf++ 在 5 分钟内计算出所有交互值，而估计现有技术需要超过 1,000,000 年。