一种基于模型的黑盒对抗样本无导数方法：BOBYQA
机器学习
2020-02-25 v1 机器学习
摘要
我们证明了基于模型的无导数优化算法能够比非基于模型的方法使用更少的网络查询次数来生成深度网络的目标误分类对抗样本。具体而言，我们考虑黑盒设定，并表明网络查询次数受任务难度增加的影响较小，无论是通过减小允许的 扰动能量，还是通过对抗误分类防御来训练网络。我们通过将BOBYQA算法与基于遗传、组合和直接搜索算法的最先进（SOTA）无模型对抗目标误分类方法进行对比来说明这一点。我们观察到，对于网络上高 能量扰动，上述较简单的无模型方法需要最少的查询次数。相反，当扰动能量减小或网络针对对抗扰动进行训练时，所提出的基于BOBYQA的方法取得了最先进的结果。
引用
@article{arxiv.2002.10349,
title = {A Model-Based Derivative-Free Approach to Black-Box Adversarial Examples: BOBYQA},
author = {Giuseppe Ughi and Vinayak Abrol and Jared Tanner},
journal= {arXiv preprint arXiv:2002.10349},
year = {2020}
}