通过局部混合和自适应步长提升对抗样本的迁移性
计算机视觉与模式识别
2024-01-25 v1 人工智能
摘要
对抗样本是各种视觉应用面临的一个严重安全威胁，其中注入的人类难以察觉的扰动会混淆输出。在黑盒设置下生成可迁移的对抗样本至关重要，但在实践中具有挑战性。现有的基于输入多样性的方法采用不同的图像变换，但由于输入多样性不足和相同的扰动步长，可能效率低下。受不同图像区域在分类中具有不同权重这一事实的启发，本文通过联合设计增强的输入多样性和自适应步长，提出了一种黑盒对抗生成框架。我们设计了局部混合来随机混合一组变换后的对抗图像，从而增强输入多样性。为了精确生成对抗样本，我们将扰动投影到 空间以放宽边界约束。此外，通过整合二阶动量，可以动态调整不同区域的步长。在 ImageNet 上的大量实验验证了，与最先进的基线方法相比，我们的框架可以实现卓越的迁移性。
引用
@article{arxiv.2401.13205,
title = {Boosting the Transferability of Adversarial Examples via Local Mixup and Adaptive Step Size},
author = {Junlin Liu and Xinchen Lyu},
journal= {arXiv preprint arXiv:2401.13205},
year = {2024}
}