基于外推点信息的稀疏补丁对抗攻击
计算机视觉与模式识别
2024-11-26 v1 机器学习
摘要
稀疏补丁对抗攻击此前已显示可在真实环境中应用，被视为自动化系统的安全风险。稀疏对抗扰动指的是对输入中少数几个点施加扰动的 setting。补丁对抗攻击指的是稀疏攻击受限于特定结构的 setting，即稀疏补丁具有给定形状和数量。然而，此前的补丁对抗攻击未能同时优化多个补丁的位置和扰动。本文提出一种通过对密集对抗扰动进行点级修剪来实现稀疏补丁对抗攻击的新方法。我们的做法使我们能够对任意数量和形状的多个稀疏补丁的位置和扰动进行同时优化。此外，我们的方法也适用于标准稀疏对抗攻击，我们表明在多个广泛环境下显著提升了最新成果。 proposed 方法和报告的实验的参考实现已提供，地址为 \url{https://github.com/yanemcovsky/SparsePatches.git}。
引用
@article{arxiv.2411.16162,
title = {Sparse patches adversarial attacks via extrapolating point-wise information},
author = {Yaniv Nemcovsky and Avi Mendelson and Chaim Baskin},
journal= {arXiv preprint arXiv:2411.16162},
year = {2024}
}
备注
AdvML-Frontiers 24: The 3nd Workshop on New Frontiers in Adversarial Machine Learning, NeurIPS 24