基于贝叶斯优化的黑盒对抗攻击
机器学习
2019-10-01 v1 机器学习
摘要
我们关注黑盒对抗攻击问题，其目标是在仅限于输入输出对损失函数评估的信息下生成对抗样本。我们使用贝叶斯优化（Bayesian optimization, BO）专门应对涉及低查询预算的场景，以开发查询高效的对抗攻击。我们通过有效的维度上采样技术缓解了 BO 在优化高维深度学习模型方面的问题。我们提出的方法达到了与最先进（SOTA）黑盒对抗攻击相当的性能，但平均查询次数大幅降低。特别是在低查询预算情形下，相较于最先进方法，我们提出的方法将查询次数减少了至多 。
引用
@article{arxiv.1909.13857,
title = {Black-box Adversarial Attacks with Bayesian Optimization},
author = {Satya Narayan Shukla and Anit Kumar Sahu and Devin Willmott and J. Zico Kolter},
journal= {arXiv preprint arXiv:1909.13857},
year = {2019}
}