用于高效黑盒对抗攻击的高斯马尔可夫随机场协方差建模
机器学习
2020-10-12 v1
摘要
我们研究黑盒设定下生成对抗样本的问题，其中仅能访问提供损失函数评估的零阶预言机。尽管该设定已在以往工作中被研究，多数使用零阶优化的过去方法隐式假设损失函数相对于输入图像的梯度是无结构的。本工作中，我们表明事实上这些梯度中存在显著相关性，并提议通过高斯马尔可夫随机场（GMRF）来捕捉这些相关性。鉴于 MRF 显式协方差结构难以处理，我们证明该协方差结构可利用快速傅里叶变换（FFT）高效表示，并结合低秩更新在该模型下执行精确后验估计。我们利用此建模技术寻找快速一步对抗攻击，类似于 Fast Gradient Sign Method（FGSM）的黑盒版本，并表明该方法比当前最先进水平使用更少查询且达到更高攻击成功率。我们也强调了该梯度建模框架的普遍适用性。
引用
@article{arxiv.2010.04205,
title = {Gaussian MRF Covariance Modeling for Efficient Black-Box Adversarial Attacks},
author = {Anit Kumar Sahu and Satya Narayan Shukla and J. Zico Kolter},
journal= {arXiv preprint arXiv:2010.04205},
year = {2020}
}