TransCAB：面向真实世界中具自然触发器的目标检测可迁移干净标注后门
计算机视觉与模式识别
2023-09-06 v2 密码学与安全
摘要
目标检测是分割、目标跟踪和事件检测等多种关键计算机视觉任务的基础。为训练出具有满意精度的目标检测器，需要大量数据。然而，由于标注大型数据集涉及密集人力，此类数据整理任务常外包给第三方或依赖志愿者。本工作揭示了该数据整理流程的严重漏洞。我们提出 MACAB，其通过制作干净标注图像，即便数据整理者能人工审核图像，也可隐蔽地将后门植入基于这些图像训练的目标检测器中。我们观察到，当以后门被不显眼的自然物理触发器激活时，在真实场景中误分类与隐身两种后门效应均能稳健实现。相较于利用干净标签后门攻击现有图像分类任务，利用干净标注后门攻击非分类的目标检测更具挑战性，原因在于每帧内含多个对象（含受害与非受害对象）的复杂性。MACAB 的有效性由以下三点保障：i 滥用深度学习框架所用的图像缩放函数；ii 结合所提出的对抗性干净图像复现技术；iii 在受限攻击预算下给出投毒数据选择准则。大量实验表明，MACAB 在各类真实场景下的攻击成功率超 90%，即便攻击预算很小也同时具备隐身与误分类后门效应。最先进检测技术无法有效识别投毒样本。综合视频演示见 https://youtu.be/MA7L_LpXkp4，其基于 YOLOv4 隐身后门与 Faster R-CNN 误分类后门 0.14% 的投毒率。
引用
@article{arxiv.2209.02339,
title = {TransCAB: Transferable Clean-Annotation Backdoor to Object Detection with Natural Trigger in Real-World},
author = {Hua Ma and Yinshan Li and Yansong Gao and Zhi Zhang and Alsharif Abuadbba and Anmin Fu and Said F. Al-Sarawi and Nepal Surya and Derek Abbott},
journal= {arXiv preprint arXiv:2209.02339},
year = {2023}
}