通过对抗视角理解目标检测
密码学与安全
2020-07-14 v1 计算机视觉与模式识别
机器学习
摘要
基于深度神经网络的目标检测模型已经革新了计算机视觉，并推动了广泛视觉识别应用的发展。然而，近期研究揭示深度目标检测器在对抗攻击下可能被攻破，导致受害检测器检测不到目标、检测到虚假目标或误标目标。随着目标检测被普遍用于自动驾驶和智能城市等许多安全关键应用，我们认为，以整体方法深入理解深度目标检测系统的对抗攻击与漏洞，对研究界开发鲁棒防御机制至关重要。本文提出一个框架，用于在对抗视角下分析和评估最先进目标检测器的漏洞，旨在分析和揭示攻击策略、不良影响与代价，以及攻击的跨模型和跨分辨率可迁移性。利用一组定量指标，我们在来自三个流行系列（YOLOv3、SSD和Faster R-CNN）的六个代表性深度目标检测器上，使用两个基准数据集（PASCAL VOC和MS COCO）进行了大量实验。我们证明所提框架可作为分析实时目标检测系统中对抗行为和风险的方法论基准。我们推测该框架也可作为评估将部署于真实应用中的深度目标检测器的安全风险与对抗鲁棒性的工具。
引用
@article{arxiv.2007.05828,
title = {Understanding Object Detection Through An Adversarial Lens},
author = {Ka-Ho Chow and Ling Liu and Mehmet Emre Gursoy and Stacey Truex and Wenqi Wei and Yanzhao Wu},
journal= {arXiv preprint arXiv:2007.05828},
year = {2020}
}