针对语义分割与目标检测的对抗样本
计算机视觉与模式识别
2017-07-24 v3
摘要
已有充分研究表明，对抗样本（即添加了视觉上难以察觉的扰动的自然图像）普遍存在于深度网络中，可导致图像分类失败。本文将对抗样本扩展到难度更大的语义分割与目标检测任务。我们的观察是，分割与检测均基于对图像中多个目标进行分类（例如，分割中的基本目标是像素或感受野，检测中则是目标提议），这启发我们在一组像素/提议上优化损失函数以生成对抗扰动。基于这一思想，我们提出了一种名为稠密对抗生成（Dense Adversary Generation, DAG）的新算法，该算法能生成一大类对抗样本，并适用于多种最先进的深度分割与检测网络。我们还发现，对抗扰动可以在使用不同训练数据、基于不同架构、甚至针对不同识别任务的网络之间迁移。特别地，相同架构网络间的可迁移性比其他情况更为显著。此外，叠加异质扰动往往能带来更好的迁移性能，这为黑盒对抗攻击提供了一种有效方法。
引用
@article{arxiv.1703.08603,
title = {Adversarial Examples for Semantic Segmentation and Object Detection},
author = {Cihang Xie and Jianyu Wang and Zhishuai Zhang and Yuyin Zhou and Lingxi Xie and Alan Yuille},
journal= {arXiv preprint arXiv:1703.08603},
year = {2017}
}
备注
To appear in ICCV 2017