DSRNA：鲁棒神经架构的可微搜索
机器学习
2020-12-14 v1 密码学与安全
计算机视觉与模式识别
摘要
在深度学习应用中，深度神经网络的架构对获得高准确率至关重要。已有许多方法被提出来自动搜索高性能神经架构。然而，这些被搜索出的架构易受对抗攻击。输入数据的微小扰动即可使架构显著改变预测结果。为解决该问题，我们提出执行鲁棒神经架构可微搜索的方法。在我们的方法中，基于认证下界与雅可比范数界定义了两个可微度量来衡量架构的鲁棒性，然后通过最大化鲁棒性度量来搜索鲁棒架构。不同于以往以隐式方式提升架构鲁棒性（执行对抗训练与注入随机噪声）的方法，我们的方法显式且直接地最大化鲁棒性度量以获取鲁棒架构。在 CIFAR-10、ImageNet 与 MNIST 上，我们对本方法的鲁棒性进行了基于博弈的评估与基于验证的评估。实验结果表明，我们的方法 1）比若干鲁棒 NAS 基线对各类范数有界攻击更具鲁棒性；2）在无攻击时比基线更准确；3）比基线拥有显著更高的认证下界。
引用
@article{arxiv.2012.06122,
title = {DSRNA: Differentiable Search of Robust Neural Architectures},
author = {Ramtin Hosseini and Xingyi Yang and Pengtao Xie},
journal= {arXiv preprint arXiv:2012.06122},
year = {2020}
}
备注
10 pages