利用生成模型合成无限制假阳性对抗物体
机器学习
2020-05-20 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对抗样本是被神经网络误分类的数据点。最初，对抗样本仅限于对给定图像添加微小扰动。近期工作引入了无限制对抗样本的广义概念，对添加的扰动不加限制。在本文中，我们引入一类新的攻击，为目标检测生成无限制对抗样本。我们的核心思想是生成与目标物体检测器所识别类别无关的对抗物体。与先前的攻击不同，我们使用现成的生成对抗网络 (GAN)，无需任何进一步训练或修改。我们的方法包括在 GAN 的潜正态空间中搜索被目标物体检测器错误识别的对抗物体。我们在常用的 Faster R-CNN ResNet-101、Inception v2 和 SSD Mobilenet v1 物体检测器上，使用在 CIFAR-10 上训练的 logo 生成式 iWGAN-LC 和 SNGAN 评估该方法。实证结果表明，生成的对抗物体与 GAN 生成的非对抗物体难以区分，可在物体检测器间迁移，并在物理世界中具有鲁棒性。这是首个研究目标检测无限制假阳性对抗样本的工作。
引用
@article{arxiv.2005.09294,
title = {Synthesizing Unrestricted False Positive Adversarial Objects Using Generative Models},
author = {Martin Kotuliak and Sandro E. Schoenborn and Andrei Dan},
journal= {arXiv preprint arXiv:2005.09294},
year = {2020}
}