询问、获取与攻击：基于类印象的无数据通用对抗扰动生成
计算机视觉与模式识别
2018-08-06 v1 机器学习
摘要
深度学习模型易受称为对抗扰动的输入相关噪声影响。此外，存在称为通用对抗扰动（UAP）的输入无关噪声，可在大多数输入样本上影响模型的推理。给定一个模型，生成 UAP 大体有两种方法：（i）数据驱动：需要数据；（ii）无数据：不需要数据样本。数据驱动方法需要来自底层数据分布的真实样本，并以高成功（欺骗）率生成 UAP。然而，无数据方法在不利用任何数据样本的情况下生成 UAP，因此成功率较低。本文针对无数据场景，提出一种新方法，利用类印象来模拟数据样本的效果，从而使用数据驱动目标来生成 UAP。给定类别与模型对的类印象是属于该类别样本的一种通用表示（在输入空间中）。进一步，我们提出一种基于神经网络的生成模型，利用获取的类印象来学习生成 UAP。实验评估表明，该学习到的生成模型（i）通过神经网络层的简单前馈即可直接生成 UAP，（ii）在无数据场景下达到了 SOTA 成功率，且在不实际利用任何数据样本的情况下接近数据驱动设定的成功率。
引用
@article{arxiv.1808.01153,
title = {Ask, Acquire, and Attack: Data-free UAP Generation using Class Impressions},
author = {Konda Reddy Mopuri and Phani Krishna Uppala and R. Venkatesh Babu},
journal= {arXiv preprint arXiv:1808.01153},
year = {2018}
}
备注
Accepted in ECCV 2018