低频对抗扰动
计算机视觉与模式识别
2019-07-24 v2
摘要
对抗图像旨在通过极小扰动目标图像来改变目标模型的决策。在黑盒设定下,梯度信息的缺失常使该搜索问题在查询复杂度上代价高昂。本文提出将对抗图像的搜索限制于低频域。该方法易于兼容许多现有黑盒攻击框架,并一致地将它们的查询代价降低 2 至 4 倍。此外,即便模型与防御策略均未知,我们也能规避图像变换防御。最后,我们以空前少的模型查询次数欺骗 Google Cloud Vision 平台,展示了该技术的效力。
引用
@article{arxiv.1809.08758,
title = {Low Frequency Adversarial Perturbation},
author = {Chuan Guo and Jared S. Frank and Kilian Q. Weinberger},
journal= {arXiv preprint arXiv:1809.08758},
year = {2019}
}
备注
9 pages, 9 figures. Accepted to UAI 2019