用于提升对抗迁移性的随机方差缩减集成对抗攻击
机器学习
2022-04-26 v2 密码学与安全
计算机视觉与模式识别
摘要
黑盒对抗攻击因其在深度学习安全领域的实际用途而备受关注。同时，由于无法访问目标模型的网络架构或内部权重，它极具挑战性。基于如下假设：若一个样本对多个模型均保持对抗性，则它更有可能将攻击能力迁移至其他模型，基于集成的对抗攻击方法高效且被广泛用于黑盒攻击。然而，集成攻击的方式鲜有研究，现有集成攻击只是简单地均匀融合所有模型的输出。在本工作中，我们将迭代集成攻击视为随机梯度下降优化过程，其中不同模型上梯度的方差可能导致糟糕的局部最优。为此，我们提出一种称为随机方差缩减集成(SVRE)攻击的新攻击方法，其可缩减集成模型的梯度方差并充分利用集成攻击的优势。在标准 ImageNet 数据集上的实证结果表明，所提方法可提升对抗迁移性，并显著优于现有集成攻击。代码见 https://github.com/JHL-HUST/SVRE。
引用
@article{arxiv.2111.10752,
title = {Stochastic Variance Reduced Ensemble Adversarial Attack for Boosting the Adversarial Transferability},
author = {Yifeng Xiong and Jiadong Lin and Min Zhang and John E. Hopcroft and Kun He},
journal= {arXiv preprint arXiv:2111.10752},
year = {2022}
}
备注
11 pages, 6 figures, accepted by CVPR 2022