对抗伪装：以自然风格隐藏物理世界攻击
计算机视觉与模式识别
2020-06-23 v2
摘要
深度神经网络（DNNs）已知易受对抗样本攻击。现有工作大多聚焦于通过微小且难以察觉的扰动创建的数字对抗样本，或具有较大且不太真实失真、易被人类观察者识别的物理世界对抗样本。本文提出一种称为对抗伪装（AdvCam）的新方法，将物理世界对抗样本制作并伪装成对人类观察者而言合法的自然风格。具体而言，AdvCam将大的对抗扰动转换为定制风格，随后将其“隐藏”在目标对象或离目标背景上。实验评估表明，在数字与物理世界场景中，由AdvCam制作的对抗样本均伪装良好且高度隐蔽，同时仍能有效地欺骗最先进的DNN图像分类器。因此，AdvCam是一种灵活的方法，可帮助制作隐蔽攻击以评估DNN的鲁棒性。AdvCam也可用于保护隐私信息不被深度学习系统检测到。
引用
@article{arxiv.2003.08757,
title = {Adversarial Camouflage: Hiding Physical-World Attacks with Natural Styles},
author = {Ranjie Duan and Xingjun Ma and Yisen Wang and James Bailey and A. K. Qin and Yun Yang},
journal= {arXiv preprint arXiv:2003.08757},
year = {2020}
}
备注
Accepted to CVPR2020