改进KernelSHAP中的加权策略
机器学习
2026-01-27 v2 机器学习
摘要
在可解释人工智能(XAI)中，Shapley值是一种流行的模型无关框架，用于解释复杂机器学习模型做出的预测。计算Shapley值需要估计非平凡的贡献函数，这些函数仅使用特征子集来表示预测。由于这些项的数量随特征数量呈指数增长，计算成本迅速攀升，因此迫切需要高效且准确的近似方法。对于表格数据，KernelSHAP框架被认为是当前最先进的模型无关近似框架。KernelSHAP通过对不同特征子集的贡献函数进行加权采样来近似Shapley值。我们提出了一种KernelSHAP的新颖改进，用确定性权重替代随机权重，以降低所得Shapley值近似的方差。这也可以与我们简单而有效的修改相结合，该修改针对流行Python库SHAP中实现的KernelSHAP变体。此外，我们提供了现有方法的概述。数值实验表明，我们的方法可以在保持近似Shapley值相同精度的同时，将所需的贡献函数评估次数减少5%到50%——本质上将运行时间减少了高达50%。这些计算上的进步推动了特征维度和预测数量的边界，使得在可行运行时间内能够用Shapley值准确解释更多预测。
引用
@article{arxiv.2410.04883,
title = {Improving the Weighting Strategy in KernelSHAP},
author = {Lars Henry Berge Olsen and Martin Jullum},
journal= {arXiv preprint arXiv:2410.04883},
year = {2026}
}
备注
This is the accepted, post peer-reviewed version of the manuscript, accepted for publication in the proceedings after the Third World Conference on eXplainable Artificial Intelligence, XAI-2025. A link to the version of record will be included here upon publication