WOODELF-HD：高深度决策树的高效背景SHAP
机器学习
2026-04-14 v1
摘要
决策树集成是预测建模的基石，SHAP是解释其预测的标准框架。在其中一个变体中，Background SHAP通过建模缺失特征来实现高精度。历史上，这种方法难以扩展，因为解释n个实例使用m个背景样本的时间复杂度包含O(mn)分量。最近的方法如Woodelf和PLTreeSHAP将其降低到O(m+n)，但引入了一个随树深度D呈3^D增长的预处理瓶颈，使得深层树难以实用。我们通过WOODELF-HD，一种Woodelf的扩展，将3^D因子降低到2^D。关键思想是采用类似Strassen的乘法方案，利用Woodelf矩阵的结构，将矩阵-向量乘法从O(k^2)降低到O(k*log(k))，通过完全向量化、非递归实现。此外，我们合并具有相同特征的路径节点，减少缓存大小和内存使用。即使在标准环境下，WOODELF-HD也能够对深度达到21的树进行精确的Background SHAP计算，而以前的方法由于内存使用过大而无法实现。对于深度为12和15的集成，分别实现了相对于最先进方法的33倍和162倍的加速。
引用
@article{arxiv.2604.10569,
title = {WOODELF-HD: Efficient Background SHAP for High-Depth Decision Trees},
author = {Ron Wettenstein and Alexander Nadel and Udi Boker},
journal= {arXiv preprint arXiv:2604.10569},
year = {2026}
}
备注
15 pages (including 6-page appendix), 9 figures