真实场景中的解释器：通过感知使替代解释器对失真具有鲁棒性
计算机视觉与模式识别
2021-06-17 v2 机器学习
摘要
解释模型决策在图像处理领域正变得普遍，无论是通过使用事后方法还是创建固有可解释的模型。虽然替代解释器（surrogate explainers）的广泛使用为检视和理解黑盒模型提供了有益补充，但评估解释的鲁棒性与可靠性是其成功的关键。此外，尽管可解释性领域的现有工作提出了应对该问题的各种策略，但在真实数据上工作的挑战常被忽视。例如，在图像分类中，图像失真不仅会影响模型给出的预测，也会影响解释。给定一张干净图像和其失真版本，即便预测概率相似，解释仍可能不同。本文中，我们提出一种方法，通过嵌入感知距离来定制用于训练替代解释器的邻域，从而评估失真对解释的影响。我们还表明，以这种方式操作可使解释对失真更鲁棒。我们在 Imagenet-C 数据集上生成解释，并展示在替代解释器中使用感知距离可为失真图像与参考图像创建更连贯的解释。
引用
@article{arxiv.2102.10951,
title = {Explainers in the Wild: Making Surrogate Explainers Robust to Distortions through Perception},
author = {Alexander Hepburn and Raul Santos-Rodriguez},
journal= {arXiv preprint arXiv:2102.10951},
year = {2021}
}