EDDA：用于提升解释忠实度的解释驱动数据增强
机器学习
2021-09-28 v3 人工智能
计算机视觉与模式识别
摘要
近年来出现了一系列针对图像分类器预测的事后可解释性方法。然而，这些事后解释未必总能忠实于分类器预测，这给基于此类解释调试模型带来了重大挑战。为此，我们寻求一种能够在无需真实解释的前提下，提升解释方法相对于模型预测的忠实度的方法论。我们通过一种新颖的解释驱动数据增强（EDDA）技术实现这一目标：该技术利用从模型解释推断出的遮挡来扩充训练数据；其基于一个简单的驱动原则，即若解释器忠实于模型，则遮挡模型预测的关键区域应降低模型对该预测的信心，而遮挡非关键区域不应改变预测。为验证所提增强方法具有提升忠实度的潜力，我们使用多种数据集与分类模型对 EDDA 进行评估。我们经实证表明，我们的方法显著提升了忠实度，从而有助于更好地调试并在真实应用中成功部署图像分类模型。
引用
@article{arxiv.2105.14162,
title = {EDDA: Explanation-driven Data Augmentation to Improve Explanation Faithfulness},
author = {Ruiwen Li and Zhibo Zhang and Jiani Li and Chiheb Trabelsi and Scott Sanner and Jongseong Jang and Yeonjeong Jeong and Dongsub Shim},
journal= {arXiv preprint arXiv:2105.14162},
year = {2021}
}