欺骗检测器的对抗样本
计算机视觉与模式识别
2017-12-08 v1 人工智能
图形学
机器学习
摘要
对抗样本是指在测试时呈现给系统并被调整以产生错误标签的样本。迄今为止，对抗样本的构造已在分类器上得到展示，但在检测器上尚未实现。如果存在能够欺骗检测器的对抗样本，它们可能被用于（例如）在配备智能车辆道路上恶意制造安全隐患。本文中，我们展示了一种能成功欺骗两个标准检测器 Faster RCNN 和 YOLO 的构造方法。此类样本的存在令人惊讶，因为攻击分类器与攻击检测器截然不同，且检测器的结构——必须自行搜索边界框，且无法非常准确地估计该框——使得对抗模式极有可能被强烈破坏。我们表明，我们的构造产生的对抗样本在数字序列间具有很好的泛化性，尽管需要较大的扰动。我们还表明，我们的构造能产生物理上对抗的物体。
引用
@article{arxiv.1712.02494,
title = {Adversarial Examples that Fool Detectors},
author = {Jiajun Lu and Hussein Sibai and Evan Fabry},
journal= {arXiv preprint arXiv:1712.02494},
year = {2017}
}
备注
Follow up paper for adversarial stop signs. Submitted to CVPR 2018