用于归因鲁棒性的增强正则化器
计算机视觉与模式识别
2021-08-17 v2 人工智能
摘要
深度神经网络是计算机视觉任务学习模型的默认选择。近年来针对分类等视觉任务解释深度模型的工作广泛开展。然而，近期工作表明，即使向网络输入两张极为相似的图像，这些模型也可能产生显著不同的归因图，引发了关于可信度的严重质疑。为解决此问题，我们提出了一种鲁棒归因训练策略以提升深度神经网络的归因鲁棒性。我们的方法仔细分析了归因鲁棒性的要求，并引入了两个新的正则化器，在攻击期间保持模型的归因图。在包括 MNIST、FMNIST、Flower 与 GTSRB 在内的多个数据集上，我们的方法在归因鲁棒性度量方面以约 3% 至 9% 的优势超越了最先进的归因鲁棒性方法。
引用
@article{arxiv.2012.14395,
title = {Enhanced Regularizers for Attributional Robustness},
author = {Anindya Sarkar and Anirban Sarkar and Vineeth N Balasubramanian},
journal= {arXiv preprint arXiv:2012.14395},
year = {2021}
}
备注
15 pages, 18 figures, Accepted at AAAI 2021. Code at https://github.com/tataiani/Enhanced_regularizers_attributional_robustness