SafetyNet：鲁棒地检测与拒斥对抗样本
计算机视觉与模式识别
2017-08-16 v2 机器学习
摘要
我们描述了一种构建网络的方法，使得 DeepFool 等现有方法极难为其生成对抗样本。我们的构建为理解深度网络的工作原理提供了一些见解。我们提供了合理的分析，证明我们的构建难以被攻破，并实验表明，使用多个标准网络和数据集，我们的方法难以被 Type I 和 Type II 攻击攻破。该 SafetyNet 架构被用于一个重要且新颖的应用 SceneProof，它能够可靠地检测图像是否为真实场景的照片。SceneProof 适用于带有深度图的图像（RGBD 图像），并检查图像与深度图对是否一致。它依赖于在图像后处理中生成自然深度图的相对困难性。我们证明，我们的 SafetyNet 对由现有已知攻击方法构建的对抗样本具有鲁棒性。
引用
@article{arxiv.1704.00103,
title = {SafetyNet: Detecting and Rejecting Adversarial Examples Robustly},
author = {Jiajun Lu and Theerasit Issaranon and David Forsyth},
journal= {arXiv preprint arXiv:1704.00103},
year = {2017}
}
备注
Accepted to ICCV 2017