$A^{3}D$：一种搜索鲁棒神经架构与高效对抗攻击的平台
机器学习
2023-01-18 v2 人工智能
摘要
由于许多应用中对安全性的迫切需求，深度神经网络（DNN）模型的鲁棒性已引起越来越多的关注。现有大量开源工具或平台通过集成多数对抗攻击或防御算法来评估 DNN 模型的鲁棒性。遗憾的是，当前平台不具备优化 DNN 模型架构或对抗攻击配置以进一步增强模型鲁棒性或对抗攻击性能的能力。为缓解这些问题，本文首先提出一种称为自动对抗攻击与防御（auto adversarial attack and defense, ）的新平台，其可帮助搜索鲁棒神经网络架构与高效对抗攻击。在 中，我们采用多种神经架构搜索方法，其考虑不同的鲁棒性评估指标，包括四类噪声：对抗噪声、自然噪声、系统噪声与量化指标，从而找出鲁棒架构。此外，我们提出自动对抗攻击的数学模型，并提供多种优化算法以搜索高效对抗攻击。我们还将自动对抗攻击与防御结合形成统一框架：在自动对抗防御中，搜索到的高效攻击可用作新的鲁棒性评估以进一步增强鲁棒性；在自动对抗攻击中，搜索到的鲁棒架构可用作威胁模型以帮助发现更强的对抗攻击。在 CIFAR10、CIFAR100 与 ImageNet 数据集上的实验证明了该平台的可行性与有效性，其也可为自动化机器学习在评估与提升 DNN 模型鲁棒性应用中的研究人员提供基准与工具包。
引用
@article{arxiv.2203.03128,
title = {$A^{3}D$: A Platform of Searching for Robust Neural Architectures and Efficient Adversarial Attacks},
author = {Jialiang Sun and Wen Yao and Tingsong Jiang and Chao Li and Xiaoqian Chen},
journal= {arXiv preprint arXiv:2203.03128},
year = {2023}
}