帕累托对抗鲁棒性：平衡空间鲁棒性与基于灵敏度的鲁棒性

对抗鲁棒性，主要包括基于灵敏度的鲁棒性和空间鲁棒性，在实现鲁棒泛化中起着不可或缺的作用。本文致力于设计实现通用对抗鲁棒性的策略。为此，我们首先探索了相对较少被研究的空间鲁棒性领域。然后，我们通过将局部和全局空间脆弱性整合到一个统一的空间攻击和对抗训练方法中，整合了现有的空间鲁棒性方法。此外，我们从鲁棒表示的角度提供了强有力的证据，展示了自然准确率、基于灵敏度的鲁棒性和空间鲁棒性之间的全面关系。至关重要的是，为了将各种鲁棒性成分之间相互影响的相互作用协调到一个统一的框架中，我们将\textit{帕累托准则}引入对抗鲁棒性分析，产生了一种称为帕累托对抗训练的新策略，以实现通用鲁棒性。由此产生的帕累托前沿描绘了最优解集，提供了自然准确率与各种对抗鲁棒性之间的最优平衡。这为未来实现通用鲁棒性的解决方案提供了启示。据我们所知，我们是首次通过多目标优化来考虑通用对抗鲁棒性。