RobArch:面向对抗攻击的鲁棒架构设计
计算机视觉与模式识别
2023-01-10 v1 人工智能
摘要
对抗训练是提升深度神经网络(DNNs)鲁棒性的最有效方法。然而,相较于优化对抗训练过程的大量研究,关于架构组件如何影响鲁棒性且对模型容量加以约束的探究甚少。因此,鲁棒性究竟源自何处尚不清楚。在本工作中,我们在固定参数预算下对DNN架构组件的鲁棒性进行了首个大规模系统性研究。通过调研,我们提炼出18条可操作的鲁棒网络设计准则,使模型开发者获得深刻见解。我们通过提出新颖的鲁棒架构(RobArch)模型来展示这些准则的有效性,该模型将准则实例化以构建一系列跨参数容量、抵御强对抗攻击的顶尖性能模型。RobArch在RobustBench ImageNet排行榜上取得了新的最先进AutoAttack准确率。代码见 。
引用
@article{arxiv.2301.03110,
title = {RobArch: Designing Robust Architectures against Adversarial Attacks},
author = {ShengYun Peng and Weilin Xu and Cory Cornelius and Kevin Li and Rahul Duggal and Duen Horng Chau and Jason Martin},
journal= {arXiv preprint arXiv:2301.03110},
year = {2023}
}