在流形上与流形外值函数间穿针引线：用于 Shapley 解释

一种流行的可解释 AI（XAI）方法是通过 Shapley 值来量化给定模型的特征重要性。这些 Shapley 值源于合作博弈，因此在 XAI 背景下计算它们的关键要素是一个所谓的值函数，它计算特征子集的“价值”，并将机器学习模型连接到合作博弈。此类值函数有许多可能的选择，大致分为两类：流形上（on-manifold）与流形外（off-manifold）值函数，分别采取观测性与干预性视角。然而这两类均各有缺陷：流形上值函数违背关键公理性质且计算昂贵，而流形外值函数较少顾及数据流形并在模型未训练过的区域上评估模型。因此，对于使用哪一类值函数尚无共识。在本文中，我们表明除这些已有问题外，两类值函数都易在低密度区域遭受对抗性操纵。我们在一组公理中形式化了同时尊重模型与数据流形且对流形外区域扰动鲁棒的值函数的期望性质，并证明存在唯一满足这些公理的值函数，我们称之为联合基线（Joint Baseline）值函数，相应 Shapley 值称为联合基线 Shapley（JBshap），并通过实验验证了 JBshap 的有效性。