简单的黑盒对抗攻击
机器学习
2019-08-16 v2 密码学与安全
机器学习
摘要
我们提出了一种在黑盒设定下构造对抗图像的极其简单的方法。与白盒场景相比,构造黑盒对抗图像具有查询预算的额外约束,而高效的攻击至今仍是一个开放问题。在仅对连续值置信度得分作温和假设下,我们具有高查询效率的算法利用如下简单迭代原则:我们从预定义的正交基中随机采样一个向量,并将其加或减到目标图像上。尽管简单,所提方法可用于无目标攻击与有目标攻击——在两种设定下均取得了前所未有的查询效率。我们在若干真实场景(包括Google Cloud Vision API)上展示了我们算法的效力与效率。我们认为所提算法应作为未来黑盒攻击的强基线,特别是因为它极快且实现仅需不到20行PyTorch代码。
引用
@article{arxiv.1905.07121,
title = {Simple Black-box Adversarial Attacks},
author = {Chuan Guo and Jacob R. Gardner and Yurong You and Andrew Gordon Wilson and Kilian Q. Weinberger},
journal= {arXiv preprint arXiv:1905.07121},
year = {2019}
}
备注
Published at ICML 2019