深度神经网络中多元 Shapley 交互的解释
机器学习
2021-02-04 v4 人工智能
计算机视觉与模式识别
机器学习
摘要
本文旨在从多元交互的视角解释深度神经网络（DNNs）。文中定义并量化了 DNN 多个输入变量间交互的显著性。具有强交互的输入变量通常形成联盟并反映原型特征，这些特征被 DNN 记忆并用于推理。我们基于 Shapley 值定义交互显著性，Shapley 值旨在将各输入变量对推理的归因值进行分配。我们使用多种 DNN 进行了实验。实验结果证明了所提方法的有效性。
引用
@article{arxiv.2010.05045,
title = {Interpreting Multivariate Shapley Interactions in DNNs},
author = {Hao Zhang and Yichen Xie and Longjie Zheng and Die Zhang and Quanshi Zhang},
journal= {arXiv preprint arXiv:2010.05045},
year = {2021}
}