评估用于解释 CNN 的输入扰动方法及显著性图比较
机器学习
2021-01-27 v1 计算机视觉与模式识别
摘要
输入扰动方法通过遮挡函数输入的某些部分并测量函数输出的变化来工作。近来，输入扰动方法已被用于生成和评估卷积神经网络的显著性图。实践中，使用中性基线图像进行遮挡，以使基线图像对分类概率的影响最小。然而，本文中我们表明，看似中性的基线图像仍会影响所生成的显著性图及其通过输入扰动的评估。我们还证明，许多超参数选择会导致输入扰动生成的显著性图出现分歧。我们通过实验揭示了若干输入扰动方法间的不一致性，并发现它们作为显著性度量在生成显著性图和评估显著性图时缺乏鲁棒性。
引用
@article{arxiv.2101.10977,
title = {Evaluating Input Perturbation Methods for Interpreting CNNs and Saliency Map Comparison},
author = {Lukas Brunke and Prateek Agrawal and Nikhil George},
journal= {arXiv preprint arXiv:2101.10977},
year = {2021}
}