基于 GAN 的无监督对抗攻击：针对深度特征检索的攻击方法
计算机视觉与模式识别
2019-07-15 v1
摘要
研究表明，基于深度神经网络（DNN）的图像分类模型易受恶意构造的对抗样本攻击。然而，鲜有研究考察此类攻击如何影响基于 DNN 的图像检索模型。本文中，我们引入基于生成对抗网络的无监督对抗攻击（UAA-GAN）来攻击基于深度特征的图像检索系统。UAA-GAN 是一种无监督学习模型，仅需少量无标签数据用于训练。一旦训练完成，它可为查询图像生成查询特定的扰动以形成对抗查询。其核心思想是确保所附加扰动对人眼几乎不可察觉，同时能有效将查询推离其在深度特征空间中的原始位置。UAA-GAN 适用于基于深度特征的多种应用场景，包括图像检索、行人重识别（Re-ID）和人脸搜索。实证结果表明，UAA-GAN 在不显著改变查询图像视觉外观的情况下削弱了检索性能。UAA-GAN 生成的对抗样本较难区分，因为它们倾向于将细微扰动融入图像的有纹理或显著区域（如人体关键部位、主导结构模式/纹理或边缘），而非视觉不显著区域（如背景和天空）。这种倾向表明该模型确实学会了如何戏弄图像检索系统与人眼。
引用
@article{arxiv.1907.05793,
title = {Unsupervised Adversarial Attacks on Deep Feature-based Retrieval with GAN},
author = {Guoping Zhao and Mingyu Zhang and Jiajun Liu and Ji-Rong Wen},
journal= {arXiv preprint arXiv:1907.05793},
year = {2019}
}