对抗掩码：面向人脸识别模型的真实世界通用对抗攻击
计算机视觉与模式识别
2022-09-08 v3 密码学与安全
机器学习
摘要
基于深度学习的人脸识别（FR）模型在过去几年中展现出最先进的性能，即便在 COVID-19 大流行期间佩戴防护医用口罩成为常态时亦然。鉴于这些模型的卓越性能，机器学习研究界对其鲁棒性提出了日益增多的挑战兴趣。最初，研究者提出数字域中的对抗攻击，随后攻击被迁移至物理域。然而在许多情况下，物理域攻击十分显眼，从而在真实环境（如机场）中可能引起怀疑。本文中，我们提出 Adversarial Mask，一种针对最先进 FR 模型的物理通用对抗扰动（UAP），它以精心设计的图样形式应用于口罩上。在我们的实验中，我们考察了对抗掩码向广泛 FR 模型架构与数据集的可迁移性。此外，我们通过将对抗图样打印在织物口罩上，在真实世界实验（闭路电视用例）中验证了对抗掩码的有效性。在这些实验中，FR 系统仅能识别 3.34% 佩戴该口罩的参与者（相比之下，其他被评估口罩的最低识别率为 83.34%）。我们的实验演示可见：https://youtu.be/_TXkDO5z11w。
引用
@article{arxiv.2111.10759,
title = {Adversarial Mask: Real-World Universal Adversarial Attack on Face Recognition Model},
author = {Alon Zolfi and Shai Avidan and Yuval Elovici and Asaf Shabtai},
journal= {arXiv preprint arXiv:2111.10759},
year = {2022}
}
备注
16 pages, 9 figures