学习生成图像源无关的通用对抗扰动
机器学习
2022-08-19 v4 人工智能
计算机视觉与模式识别
机器学习
摘要
对抗扰动对于认证深度学习模型的鲁棒性至关重要。通用对抗扰动（UAP）能够同时攻击多幅图像，从而提供了一种更统一的威胁模型，避免逐图攻击算法。然而，当图像来自不同图像源（例如具有不同图像分辨率）时，现有的 UAP 生成器尚不成熟。为实现跨图像源的真正通用性，我们将 UAP 生成新颖地视为少样本学习的一个定制实例，其利用双层优化和学习到优化（L2O）技术来生成 UAP，以提高攻击成功率（ASR）。我们首先考虑流行的模型无关元学习（MAML）框架来元学习一个 UAP 生成器。然而，我们发现 MAML 框架并不能直接提供跨图像源的通用攻击，需要将其与另一 L2O 元学习框架相整合。所得到的元学习 UAP 生成器方案（i）比投影梯度下降等基线性能更好（ASR 高 50%），（ii）比原始 L2O 和 MAML 框架（在适用时）性能更好（快 37%），且（iii）能够同时处理针对不同 victim 模型和图像数据源的 UAP 生成。
引用
@article{arxiv.2009.13714,
title = {Learning to Generate Image Source-Agnostic Universal Adversarial Perturbations},
author = {Pu Zhao and Parikshit Ram and Songtao Lu and Yuguang Yao and Djallel Bouneffouf and Xue Lin and Sijia Liu},
journal= {arXiv preprint arXiv:2009.13714},
year = {2022}
}