基于 Shapley 值的积分梯度新基线假设
机器学习
2024-05-21 v3 人工智能
摘要
解读深度神经网络（DNNs）的尝试常涉及将其预测映射回输入特征。在这些方法中，积分梯度（IG）已成为一项重要技术。在 IG 中选择恰当的基线，对于在不同场景下构建有意义且无偏的模型预测解释至关重要。然而，使用单一标准的基线方法往往不充分，从而催生了对多基线的需求。利用 IG 与 Aumann-Shapley 值之间的天然联系，我们提供了关于基线设计的新视角。理论上，我们证明在特定假设下，一组基线集合与 Shapley 值所描述的联盟一致。基于该洞见，我们开发了一种称为 Shapley 积分梯度（SIG）的新基线方法，其采用比例采样来镜像 Shapley 值的计算过程。在 GridWorld 中进行的仿真验证了 SIG 能有效模拟 Shapley 值的分布。此外，在各种图像处理任务上的实证测试表明，SIG 超越了传统 IG 基线方法，提供了更精确的特征贡献估计，在不同应用中给出一致的解释，并以可忽略的额外计算需求确保了对多样数据类型的适应性。
引用
@article{arxiv.2310.04821,
title = {A New Baseline Assumption of Integated Gradients Based on Shaply value},
author = {Shuyang Liu and Zixuan Chen and Ge Shi and Ji Wang and Changjie Fan and Yu Xiong and Runze Wu Yujing Hu and Ze Ji and Yang Gao},
journal= {arXiv preprint arXiv:2310.04821},
year = {2024}
}
备注
12 pages