利用梯度先验提升基于决策的黑盒对抗攻击
机器学习
2023-10-31 v1 密码学与安全
计算机视觉与模式识别
摘要
基于决策的方法已在黑盒对抗攻击中证明有效，因其可取得满意性能且仅需访问最终模型预测。梯度估计是黑盒对抗攻击的关键步骤，因其直接影响查询效率。近期工作尝试利用梯度先验辅助基于分数的方法以获得更好结果。然而，这些梯度先验仍存在边缘梯度差异问题与连续迭代梯度方向问题，故难以简单推广至基于决策的方法。本文提出一种新颖的带梯度先验的基于决策黑盒攻击框架（DBA-GP），其将依赖数据的梯度先验与依赖时间的先验无缝整合进梯度估计过程。首先，通过联合双边滤波器处理各随机扰动，DBA-GP 可保证边缘位置生成的扰动几乎不被平滑，即缓解边缘梯度差异，从而尽可能保留原图特征。其次，通过采用新梯度更新策略自动调整连续迭代梯度方向，DBA-GP 可加速收敛，进而提升查询效率。大量实验表明所提方法显著优于其他强基线。
引用
@article{arxiv.2310.19038,
title = {Boosting Decision-Based Black-Box Adversarial Attack with Gradient Priors},
author = {Han Liu and Xingshuo Huang and Xiaotong Zhang and Qimai Li and Fenglong Ma and Wei Wang and Hongyang Chen and Hong Yu and Xianchao Zhang},
journal= {arXiv preprint arXiv:2310.19038},
year = {2023}
}
备注
Accepted by IJCAI 2023