面向人脸重识别的AI规避与冒充攻击及激活图解释
计算机视觉与模式识别
2026-03-17 v1 人工智能
摘要
人脸识别系统在监控领域日益广泛部署，但其对对抗规避与冒充攻击的脆弱性构成关键风险。本文提出一种新型框架，用于生成能够对抗深度重识别模型（跨非重叠摄像头）实现规避与冒充攻击的对抗性补丁。不同于需为每个目标迭代优化补丁的先前方法，本方法采用条件编码器-解码器网络在单次前向传播中合成对抗性补丁，依据源图像与目标图像的多尺度特征进行引导。补丁以包含拉取项和推送项的双对抗目标进行优化。为提升隐形性并辅助物理部署，我们进一步集成基于预训练潜在扩散模型的自然补丁生成。在标准行人（Market-1501、DukeMTMCreID）和人脸识别（CelebA-HQ、PubFig）数据集上的实验表明，所提方法有效。我们的对抗规避攻击在白盒设置下将平均精度从90%降至0.4%，在黑盒设置下从72%降至0.4%，显示出强大的跨模型泛化。针对定向冒充攻击，本框架在CelebA-HQ上实现27%的成功率，与其他补丁方法竞争。我们进一步利用激活图聚类解释对抗攻击最依赖的特征，并提出未来防御措施的路径。结果凸显了针对基于检索的系统的对抗补丁攻击的可行性，凸显了健壮防御策略的紧迫需求。
引用
@article{arxiv.2603.15396,
title = {AI Evasion and Impersonation Attacks on Facial Re-Identification with Activation Map Explanations},
author = {Noe Claudel and Weisi Guo and Yang Xing},
journal= {arXiv preprint arXiv:2603.15396},
year = {2026}
}