针对对抗攻击的随机化防御的实证研究
机器学习
2019-09-13 v1 机器学习
摘要
近年来，深度神经网络（DNNs）对长期以来被认为十分困难的各类问题产生了巨大影响，例如仅举几例：图像分类与自动语言翻译。现代 DNNs 在分类任务中的准确率确实令人瞩目。与此同时，攻击者设计了强大的方法来构造特制的恶意输入（通常称为对抗样本），能够诱骗 DNNs 将其错误分类。更糟糕的是，尽管已提出许多防御机制来保护 DNNs 免受对抗攻击，攻击者往往能够规避这些防御，使其失效。这种状况极其令人担忧，尤其是机器学习系统正被大规模采用。在本文中，我们提出一种科学评估方法，旨在评估随机化防御保护 DNNs 免受对抗样本攻击的质量、效能、鲁棒性与效率。利用该方法，我们评估了多种防御机制。此外，我们还提出了一种称为随机扰动集成神经网络（RPENNs）的防御机制。我们针对白盒攻击者模型、六种不同对抗攻击方法并使用 ILSVRC2012 验证数据集，对所考虑的防御机制进行了透彻而全面的评估。
引用
@article{arxiv.1909.05580,
title = {An Empirical Investigation of Randomized Defenses against Adversarial Attacks},
author = {Yannik Potdevin and Dirk Nowotka and Vijay Ganesh},
journal= {arXiv preprint arXiv:1909.05580},
year = {2019}
}