通过带对数约束的概率紧凑损失提升对抗鲁棒性
机器学习
2020-12-15 v1 计算机视觉与模式识别
摘要
卷积神经网络（CNNs）在计算机视觉的多种任务上取得了最先进的性能。然而，近期研究表明这些模型易受精心构造的对抗样本攻击，并在预测它们时性能显著下降。已有许多方法被提出以改善对抗鲁棒性（例如对抗训练和学习对抗鲁棒特征表示的新损失函数）。本文中，我们提供了关于CNN预测行为的一个独特见解：它们倾向于将对抗样本误分类为最可能错误的类别。这启发我们提出一种新的带对数约束的概率紧凑（Probabilistically Compact, PC）损失，可作为交叉熵（CE）损失的即插即用替代以提升CNN的对抗鲁棒性。具体而言，PC损失扩大了真实类别与错误类别间的概率差距，同时对数约束防止这些差距被微小扰动抹平。我们在白盒与黑盒攻击下使用大规模数据集将我们的方法与最先进（state-of-the-art）方法进行了广泛比较，以证明其有效性。源代码可从以下网址获取：https://github.com/xinli0928/PC-LC。
引用
@article{arxiv.2012.07688,
title = {Improving Adversarial Robustness via Probabilistically Compact Loss with Logit Constraints},
author = {Xin Li and Xiangrui Li and Deng Pan and Dongxiao Zhu},
journal= {arXiv preprint arXiv:2012.07688},
year = {2020}
}
备注
To appear in the proceedings of Thirty-Five AAAI Conference on Artificial Intelligence (AAAI-21)