LP-BFGS攻击:一种基于Hessian矩阵且限制像素数的对抗攻击
密码学与安全
2023-04-10 v2 机器学习
摘要
深度神经网络易受对抗攻击。大多数基于范数的白盒攻击通过模型对输入的梯度来构造扰动。由于计算Hessian矩阵的计算成本与内存限制,在白盒攻击中使用Hessian或近似Hessian逐渐被人们搁置。本工作中,我们注意到对扰动的稀疏性要求天然适合于Hessian信息的使用。我们研究了基于Hessian且限制扰动像素数量的攻击方法的攻击性能与计算成本。具体而言,我们提出了有限像素BFGS(LP-BFGS)攻击方法,其结合了扰动像素选择策略与BFGS算法。由积分梯度方法计算得到的top-k归因得分的像素被视为LP-BFGS攻击的优化变量。跨不同网络与数据集的实验结果表明,与现有方案相比,我们的方法在不同扰动像素数量下具有相当的攻击能力且计算开销合理。
引用
@article{arxiv.2210.15446,
title = {LP-BFGS attack: An adversarial attack based on the Hessian with limited pixels},
author = {Jiebao Zhang and Wenhua Qian and Rencan Nie and Jinde Cao and Dan Xu},
journal= {arXiv preprint arXiv:2210.15446},
year = {2023}
}
备注
15 pages, 7 figures