OMG-ATTACK：用于生成可迁移规避攻击的自监督流形上方法
机器学习
2023-10-06 v1 计算机视觉与模式识别
摘要
规避攻击（EA）通过扭曲输入数据以误导模型做出错误分类，用于测试已训练神经网络的鲁棒性。生成这些攻击是一项具有挑战性的任务，尤其在模型与数据集日益复杂的情况下。在本工作中，我们提出一种自监督、计算经济的方法来生成对抗样本，专为未见过的黑盒设定而设计。通过借鉴表示学习的技术，我们的方法生成流形上的规避攻击（EA），并被鼓励与数据分布相似。这些攻击在攻击所训练模型时的效力与最先进水平相当，但在攻击未见模型时显著更有效，因为攻击更关乎数据而非模型本身。我们的实验一致表明，该方法在各种模型、未见数据类别乃至防御型模型上均有效，暗示流形上规避攻击在针对未见模型时发挥着重要作用。
引用
@article{arxiv.2310.03707,
title = {OMG-ATTACK: Self-Supervised On-Manifold Generation of Transferable Evasion Attacks},
author = {Ofir Bar Tal and Adi Haviv and Amit H. Bermano},
journal= {arXiv preprint arXiv:2310.03707},
year = {2023}
}
备注
ICCV 2023, AROW Workshop