基于 $k$-可加 Choquet 积分的机器学习局部可解释性 SHAP 值近似方法
机器学习
2022-11-07 v1
摘要
除准确性外，近期关于机器学习模型的研究也在探讨如何解释所获得的结果。事实上，尽管复杂的机器学习模型即使在具有挑战性的应用中也能提供非常好的准确性结果，但它们难以解释。为了对此类模型提供一定的可解释性，最著名的方法之一 SHAP 借用了博弈论中的 Shapley 值概念，以局部解释感兴趣实例的预测结果。由于 SHAP 值的计算需要对属性的所有可能联盟进行先前计算，其计算代价可能非常高。因此，一种称为 Kernel SHAP 的基于 SHAP 的方法采用了一种高效策略，以较小的计算量近似这些值。在本文中，我们也基于 Shapley 值处理机器学习中的局部可解释性。首先，我们利用 Choquet 积分给出了一种基于 SHAP 的局部可解释性方法的直接表述，其可导出 Shapley 值和 Shapley 交互指数。此外，我们还采用了博弈论中的 -可加博弈概念，有助于在估计 SHAP 值时减少计算量。所得结果证明，我们的方案在近似 SHAP 值时需要对属性联盟的计算更少。
引用
@article{arxiv.2211.02166,
title = {A $k$-additive Choquet integral-based approach to approximate the SHAP values for local interpretability in machine learning},
author = {Guilherme Dean Pelegrina and Leonardo Tomazeli Duarte and Michel Grabisch},
journal= {arXiv preprint arXiv:2211.02166},
year = {2022}
}