显著性图的加噪方法作为高阶偏导数列
机器学习
2018-06-11 v1 机器学习
摘要
SmoothGrad 和 VarGrad 是通过向输入添加噪声来提升标准显著性图经验质量的技术。然而，鲜有工作对这些方法提供严格的理论解释。我们从解析角度形式化了这些加噪方法的结果。由此，我们从现有加噪方法中观察到两个有趣的结果。第一，SmoothGrad 并未使得分函数的梯度变得平滑。第二，VarGrad 与得分函数的梯度无关。我们相信，我们的发现为揭示深度神经网络局部解释方法与得分函数高阶偏导数之间的关系提供了线索。
引用
@article{arxiv.1806.03000,
title = {Noise-adding Methods of Saliency Map as Series of Higher Order Partial Derivative},
author = {Junghoon Seo and Jeongyeol Choe and Jamyoung Koo and Seunghyeon Jeon and Beomsu Kim and Taegyun Jeon},
journal= {arXiv preprint arXiv:1806.03000},
year = {2018}
}
备注
presented at 2018 ICML Workshop on Human Interpretability in Machine Learning (WHI 2018), Stockholm, Sweden