分类鲁棒性与解释鲁棒性真的强相关吗？基于输入损失景观的分析
机器学习
2024-03-12 v1 计算机视觉与模式识别
摘要
本文深入探讨了深度学习鲁棒性的关键领域，挑战了图像分类系统中分类鲁棒性与解释鲁棒性天生相关的传统观念。通过利用聚类进行解释鲁棒性高效评估的新颖评估方法，我们证明了增强解释鲁棒性并不一定能使关于解释损失的输入损失景观变得平坦——这与平坦的损失景观表明更好的分类鲁棒性相反。为了深入调查这一矛盾，我们提出了一种开创性的训练方法，旨在调整关于解释损失的损失景观。通过这种新的训练方法，我们发现虽然此类调整可以影响解释的鲁棒性，但它们不会影响分类的鲁棒性。这些发现不仅挑战了关于这两种形式鲁棒性之间存在强相关的普遍假设，也为理解损失景观与解释损失之间的关系开辟了新途径。
引用
@article{arxiv.2403.06013,
title = {Are Classification Robustness and Explanation Robustness Really Strongly Correlated? An Analysis Through Input Loss Landscape},
author = {Tiejin Chen and Wenwang Huang and Linsey Pang and Dongsheng Luo and Hua Wei},
journal= {arXiv preprint arXiv:2403.06013},
year = {2024}
}