理解干预式 TreeSHAP：其运作机制与原理
机器学习
2022-12-06 v2
摘要
Shapley 值因其坚实的理论背景及在 SHAP 库中的高效实现，在可解释机器学习中无处不在。此前计算这些值对不透明模型的输入特征数量呈指数代价。如今，借助如干预式 TreeSHAP（Interventional TreeSHAP）等高效实现，在解释决策树集成时该指数负担得以缓解。尽管干预式 TreeSHAP 已广受欢迎，仍缺乏对其如何及为何奏效的严格证明。我们给出此类证明，旨在不仅提升该算法的透明度，也鼓励这些思想的进一步发展。值得注意的是，我们对干预式 TreeSHAP 的证明易于推广至 Shapley-Taylor 指数与独热编码特征。
引用
@article{arxiv.2209.15123,
title = {Understanding Interventional TreeSHAP : How and Why it Works},
author = {Gabriel Laberge and Yann Pequignot},
journal= {arXiv preprint arXiv:2209.15123},
year = {2022}
}