AnywhereDoor:针对目标检测的多目标后门攻击
密码学与安全
2025-03-14 v2 人工智能
计算机视觉与模式识别
摘要
随着目标检测成为许多安全关键应用不可或缺的一部分,理解其漏洞至关重要。后门攻击通过在受害模型中植入隐藏触发器构成严重威胁,攻击者随后可在推理期间利用这些触发器诱发恶意行为。然而,当前的理解仅限于单目标攻击,攻击者必须在训练前定义固定的恶意行为(目标),使得推理时的适应性成为不可能。鉴于目标检测巨大的输出空间(包括目标存在性预测、边界框估计和分类),灵活的推理时模型控制的可行性仍未被探索。本文介绍了 AnywhereDoor,一种针对目标检测的多目标后门攻击。一旦植入,AnywhereDoor 允许攻击者使目标消失、伪造新目标或对其进行误标记,可作用于所有目标类别或特定类别,提供了前所未有的控制程度。这种灵活性由三项关键创新实现:目标解耦以扩展支持的目标数量;触发器马赛克以确保即使针对基于区域的检测器也具有鲁棒性;以及策略性批处理以解决阻碍操纵的目标级数据不平衡。大量实验表明,AnywhereDoor 赋予了攻击者高度控制权,与为这种灵活控制而改编的现有方法相比,攻击成功率提高了 26%。
引用
@article{arxiv.2503.06529,
title = {AnywhereDoor: Multi-Target Backdoor Attacks on Object Detection},
author = {Jialin Lu and Junjie Shan and Ziqi Zhao and Ka-Ho Chow},
journal= {arXiv preprint arXiv:2503.06529},
year = {2025}
}
备注
This work was intended as a replacement of arXiv:2411.14243 and any subsequent updates will appear there