深度神经网络定向黑盒攻击中无导数优化算法的实证研究
机器学习
2020-12-04 v1
摘要
我们对无导数优化（DFO）算法在深度神经网络（DNN）分类器上生成定向黑盒对抗攻击的性能进行了全面研究，假设扰动能量受 约束限制且对网络的查询次数有限。本文考虑了四种已有的最先进基于 DFO 的算法，并引入了一种基于 BOBYQA（一种基于模型的 DFO 方法）构建的新算法。我们根据在给定对 DNN 最大查询次数下成功误分类图像的比例，在各种设置中比较这些算法。实验揭示了找到对抗样本的可能性如何取决于所用算法和攻击设置；将对抗样本搜索限制在 约束顶点上的算法在无结构防御时表现尤其良好，而所提出的基于 BOBYQA 的算法在特别小的扰动能量下表现更好。这种性能差异凸显了新算法在各种设置中与最先进技术进行比较的重要性，以及使用尽可能广泛范围的算法测试对抗防御有效性的重要性。
引用
@article{arxiv.2012.01901,
title = {An Empirical Study of Derivative-Free-Optimization Algorithms for Targeted Black-Box Attacks in Deep Neural Networks},
author = {Giuseppe Ughi and Vinayak Abrol and Jared Tanner},
journal= {arXiv preprint arXiv:2012.01901},
year = {2020}
}
备注
arXiv admin note: text overlap with arXiv:2002.10349