桥接对抗训练
机器学习
2021-08-26 v1 人工智能
摘要
对抗鲁棒性被认为是深度神经网络的必备属性。在本研究中，我们发现经过对抗训练的模型在间隔和平滑性方面可能具有截然不同的特征，即使它们表现出相似的鲁棒性。受此观察启发，我们研究了不同正则化器的效果，并发现了平滑性正则化对最大化间隔的负面影响。基于这些分析，我们提出了一种称为桥接对抗训练的新方法，通过弥合干净样本和对抗样本之间的差距来减轻该负面影响。我们提供了理论和经验证据，表明所提出的方法提供了稳定且更好的鲁棒性，尤其是对于大扰动。
引用
@article{arxiv.2108.11135,
title = {Bridged Adversarial Training},
author = {Hoki Kim and Woojin Lee and Sungyoon Lee and Jaewook Lee},
journal= {arXiv preprint arXiv:2108.11135},
year = {2021}
}