我们能否忠实表示掩码状态以在深度神经网络上计算 Shapley 值？
机器学习
2023-05-25 v4 人工智能
摘要
掩码深度神经网络（DNN）的某些输入变量并计算掩码输入样本上的输出变化，是计算样本中输入变量归因的典型方法。人们通常使用基线值来掩码输入变量。然而，尚无理论检验基线值是否忠实表示输入变量的缺失，即移除该输入变量的所有信号。幸运的是，近期研究表明 DNN 的推理分数可严格解耦为一组由 DNN 编码的因果模式（或概念）。因此，我们提出使用因果模式来检验基线值的忠实性。更关键的是，我们证明了因果模式可被解释为 Shapley 值的基本依据。此外，我们提出了一种学习最优基线值的方法，实验结果已证明其有效性。
引用
@article{arxiv.2105.10719,
title = {Can We Faithfully Represent Masked States to Compute Shapley Values on a DNN?},
author = {Jie Ren and Zhanpeng Zhou and Qirui Chen and Quanshi Zhang},
journal= {arXiv preprint arXiv:2105.10719},
year = {2023}
}
备注
accepted by ICLR 2023