FANOVA 高斯过程在二次时间内的精确 Shapley 归因
机器学习
2025-08-21 v1 人工智能
摘要
Shapley 值被广泛认为是机器学习中为输入特征分配重要性的原则性方法。然而，Shapley 值的精确计算量随特征数量呈指数级增长，严重限制了这一强大方法的实际应用。当预测模型是概率性的——例如高斯过程（GPs）——其输出是随机变量而非点估计时，这一挑战更加严峻，因为需要对高阶矩进行建模，从而增加了额外的计算量。在这项工作中，我们证明，对于一类重要的高斯过程，即 FANOVA GP，它显式地建模了所有主效应和交互作用，用于局部和全局解释的*精确* Shapley 归因可以在*二次时间*内计算得出。对于局部的、实例层面的解释，我们定义了一个基于函数组件的随机合作博弈，并仅在二次时间内计算出精确的随机 Shapley 值，同时捕捉了期望贡献和不确定性。对于全局解释，我们引入了一个确定性的、基于方差的价值函数，并计算出精确的 Shapley 值，以量化每个特征对模型整体敏感度的贡献。我们的方法利用了 FANOVA 分解的闭式（随机）Möbius 表示，并引入了受牛顿恒等式启发的递归算法，以高效计算 Shapley 值的均值和方差。通过提供对结构化概率模型生成的预测更具可扩展性、公理化合理且具有不确定性感知的解释，我们的工作增强了可解释人工智能的实用性，这一点已通过实证研究得到证明。
引用
@article{arxiv.2508.14499,
title = {Exact Shapley Attributions in Quadratic-time for FANOVA Gaussian Processes},
author = {Majid Mohammadi and Krikamol Muandet and Ilaria Tiddi and Annette Ten Teije and Siu Lun Chau},
journal= {arXiv preprint arXiv:2508.14499},
year = {2025}
}