DynamicPAE：面向场景感知的实时物理对抗样本生成
计算机视觉与模式识别
2025-10-27 v3 人工智能
摘要
物理对抗样本 (PAE) 被视为深度学习应用中真实世界风险的警报器，因此值得进一步调查。然而，当前的PAE生成研究表明其对多样化和变化场景的自适应攻击能力有限，暴露了需要实时生成且以攻击者观察为条件的动态PAE的迫切需求。在生成动态PAE过程中，关键挑战在于学习PAE与攻击者观察之间稀疏关系，这在攻击训练的噪声反馈下变得困难。为解决此挑战，我们提出DynamicPAE——首个实现场景感知实时物理攻击的生成框架。具体而言，针对掩盖场景相关PAE探索的噪声反馈问题，我们引入残差引导的对抗模式探索技术。残差引导训练通过引入重建任务来放宽攻击训练，从而丰富反馈信息，实现对PAE的更全面探索。针对训练生成器与真实场景之间的对齐问题，我们引入分布匹配的攻击场景对齐机制，包括条件不确定性对齐数据模块和偏斜对齐目标重加权模块。前者将训练环境对齐到攻击者不完整观察的情况，后者通过偏斜控制器实现跨不同攻击目标的持续隐蔽控制。大量数字和物理评估表明，DynamicPAE在代表性目标检测器（如DETR）上的攻击性能显著优于最先进的静态PAE生成方法，平均检测框(mAP)下降58.8%，提升2.07倍。总体而言，我们的工作为动态PAE的端到端建模开辟了道路。
引用
@article{arxiv.2412.08053,
title = {DynamicPAE: Generating Scene-Aware Physical Adversarial Examples in Real-Time},
author = {Jin Hu and Xianglong Liu and Jiakai Wang and Junkai Zhang and Xianqi Yang and Haotong Qin and Yuqing Ma and Ke Xu},
journal= {arXiv preprint arXiv:2412.08053},
year = {2025}
}