面向边缘检测的对抗样本：它们存在且可迁移
计算机视觉与模式识别
2019-06-04 v1
摘要
卷积神经网络近来在许多任务上推进了最优性能，包括边缘与目标边界检测。然而，在本文中，我们证明这些边缘检测器继承了神经网络的一个令人困扰的特性：它们可被对抗样本欺骗。我们展示，对图像添加微小扰动会导致基于 CNN 的边缘检测模型 HED 无法定位边缘、检测出不存在的边缘，甚至幻觉出任意配置的边缘。更令人惊讶的是，我们发现这些对抗样本可迁移至其他基于 CNN 的视觉模型。特别地，针对边缘检测的攻击导致训练用于执行不相关高层任务（如图像分类与语义分割）的模型准确率显著下降。我们的代码将公开。
引用
@article{arxiv.1906.00335,
title = {Adversarial Examples for Edge Detection: They Exist, and They Transfer},
author = {Christian Cosgrove and Alan L. Yuille},
journal= {arXiv preprint arXiv:1906.00335},
year = {2019}
}