TOG：面向实时目标检测系统的定向对抗目标性梯度攻击
机器学习
2020-04-10 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
实时海量数据获取的快速增长已将深度学习和数据分析计算推向边缘系统。边缘端实时目标识别是基于深度神经网络（DNN）赋能的边缘系统用于现实世界关键任务应用（如自动驾驶和增强现实）的代表之一。尽管DNN赋能的目标检测边缘系统带来了诸多丰富生活的机遇，它们也打开了滥用和误用之门。本文提出三种定向对抗目标性梯度攻击，称为TOG，可使最先进的深度目标检测网络遭受目标消失、目标伪造和目标错标攻击。我们还提出一种通用目标性梯度攻击，利用对抗可迁移性进行黑盒攻击，该攻击对任意输入均有效，攻击时间开销可忽略、人类感知性低，且对目标检测边缘系统尤其具有危害性。我们报告了使用两个基准数据集（PASCAL VOC和MS COCO）在两个最先进检测算法（YOLO和SSD）上的实验评测。结果展示了严重的对抗脆弱性以及开发鲁棒目标检测系统的迫切需求。
引用
@article{arxiv.2004.04320,
title = {TOG: Targeted Adversarial Objectness Gradient Attacks on Real-time Object Detection Systems},
author = {Ka-Ho Chow and Ling Liu and Mehmet Emre Gursoy and Stacey Truex and Wenqi Wei and Yanzhao Wu},
journal= {arXiv preprint arXiv:2004.04320},
year = {2020}
}