通过梯度聚合增强通用对抗扰动的泛化能力
计算机视觉与模式识别
2023-08-14 v1
摘要
深度神经网络易受通用对抗扰动（UAP）攻击，UAP 是一种与样本无关的扰动，能使目标模型对大多数样本产生误判。与样本相关的对抗样本相比，UAP 更具挑战性，因为它需要在不同样本和模型间泛化。本文从泛化视角审视了 UAP 生成方法面临的严重困境——使用小批量随机梯度优化时的梯度消失问题，以及使用大批量优化时的局部最优问题。为解决这些问题，我们提出一种简洁有效的方法，称为随机梯度聚合（SGA），其同时缓解梯度消失并逃离糟糕的局部最优。具体而言，SGA 采用小批量训练执行多次内预搜索迭代。随后，所有内部梯度被聚合为单步梯度估计，以增强梯度稳定性并减少量化误差。在标准 ImageNet 数据集上的大量实验表明，我们的方法显著增强了 UAP 的泛化能力，并优于其他最先进的方法。代码见 https://github.com/liuxuannan/Stochastic-Gradient-Aggregation。
引用
@article{arxiv.2308.06015,
title = {Enhancing Generalization of Universal Adversarial Perturbation through Gradient Aggregation},
author = {Xuannan Liu and Yaoyao Zhong and Yuhang Zhang and Lixiong Qin and Weihong Deng},
journal= {arXiv preprint arXiv:2308.06015},
year = {2023}
}