认证训练结合凸松弛如何损害鲁棒精度
机器学习
2023-06-13 v1
摘要
对抗攻击对在安全关键应用中部署最先进分类器构成重大威胁。两类方法已涌现以应对该问题：经验防御与认证防御。尽管认证防御带有鲁棒性保证，诸如对抗训练之类的经验防御在从业者中受欢迎得多。本文中，我们系统比较了这两种鲁棒训练范式在多个计算机视觉任务下的标准误差与鲁棒误差。我们表明在大多数任务中且对于 -球与 -球威胁模型，结合凸松弛的认证训练比对抗训练承受更差的标准与鲁棒误差。我们进一步探究认证与对抗训练间误差差距如何依赖于威胁模型与数据分布。特别地，除扰动预算外，我们识别出扰动集形状与数据分布隐式间隔为重要因素。我们以在合成与图像数据集上的广泛消融实验支撑我们的论点。
引用
@article{arxiv.2306.06995,
title = {How robust accuracy suffers from certified training with convex relaxations},
author = {Piersilvio De Bartolomeis and Jacob Clarysse and Amartya Sanyal and Fanny Yang},
journal= {arXiv preprint arXiv:2306.06995},
year = {2023}
}