用于特征归因中 Shapley 值精确估计的基于能量的模型
机器学习
2025-11-05 v4
摘要
Shapley 值是可解释人工智能 (XAI) 中广泛使用的工具，因为它提供了一种有原则的方法来将输入特征对模型输出的贡献进行归因。然而，Shapley 值的估计需要捕获所有特征组合之间的条件依赖关系，这在复杂数据环境中带来了重大挑战。在本文中，提出了一种精确的 Shapley 值估计方法 EmSHAP（用于 Shapley 值估计的基于能量的模型），以估计在给定其余特征的情况下任意特征子集下 Shapley 贡献函数的期望。通过利用基于能量的模型 (EBM) 对复杂分布进行建模的能力，EmSHAP 为估计所需的条件概率提供了有效解决方案。为了进一步提高估计精度，引入了一种耦合 GRU（门控循环单元）的配分函数估计方法。GRU 网络以轻量级的参数化捕获长期依赖关系，并将输入特征映射到潜在空间，以减轻特征排序的影响。此外，还结合了动态掩码机制，通过逐步增加掩码率来进一步增强鲁棒性和准确性。对误差界的理论分析以及在四个案例研究中的应用，验证了 EmSHAP 相比竞争方法具有更高的精度和更好的可扩展性。
引用
@article{arxiv.2404.01078,
title = {Energy-Based Model for Accurate Estimation of Shapley Values in Feature Attribution},
author = {Cheng Lu and Jiusun Zeng and Yu Xia and Jinhui Cai and Shihua Luo},
journal= {arXiv preprint arXiv:2404.01078},
year = {2025}
}