关于“深度神经网络局部解释方法缺乏对参数值的敏感性”一文的注记
机器学习
2018-06-13 v1 机器学习
摘要
局部解释方法，亦称归因方法，将深度网络的预测归因到其输入（参见 Baehrens 等人 (2010)）。我们针对 Adebayo 等人 (2018) 提出的局部解释方法缺乏敏感性的主张作出回应，即使用随机初始化权重的 DNN 所产生的解释，在视觉上与定量上均类似于使用学习到权重的 DNN 所产生的解释。进一步调查发现，他们的结论源于其分析中的两个选择：(a) 忽略归因的符号；以及 (b) 对于积分梯度（IG），在其分析中包含了因基线（计算归因所相对的辅助输入）的选择而具有零归因的像素。当同时考虑这两个因素时，随机网络与实际网络的 IG 归因互不相关。我们的调查也阐明了这些问题如何影响可视化，尽管我们注意到仍需更多工作以理解观察者如何解读随机与实际归因之间的差异。
引用
@article{arxiv.1806.04205,
title = {A Note about: Local Explanation Methods for Deep Neural Networks lack Sensitivity to Parameter Values},
author = {Mukund Sundararajan and Ankur Taly},
journal= {arXiv preprint arXiv:1806.04205},
year = {2018}
}
备注
Technical report