物理世界中针对深度学习人脸识别的鲁棒攻击
计算机视觉与模式识别
2020-11-30 v1 机器学习
摘要
深度神经网络（DNNs）已日益用于人脸识别（FR）系统。然而，近期研究表明DNNs易受对抗样本攻击，这可能在实际物理世界中误导采用DNNs的FR系统。现有针对这些系统的攻击要么仅生成作用于数字世界的扰动，要么依赖定制设备生成扰动且在多变物理环境中不具备鲁棒性。本文中，我们提出FaceAdv，一种通过制作对抗贴纸来欺骗FR系统的物理世界攻击。它主要由贴纸生成器与变换器组成，前者可制作多种形状的贴纸，后者变换器旨在将贴纸数字贴附于人脸并向生成器提供反馈以提升贴纸有效性。我们开展大量实验评估FaceAdv在攻击3种典型FR系统（即ArcFace、CosFace与FaceNet）上的有效性。结果表明，与一种最先进（SOTA）攻击相比，FaceAdv可显著提升规避攻击与冒充攻击的成功率。我们还进行了综合评估以证明FaceAdv的鲁棒性。
引用
@article{arxiv.2011.13526,
title = {Robust Attacks on Deep Learning Face Recognition in the Physical World},
author = {Meng Shen and Hao Yu and Liehuang Zhu and Ke Xu and Qi Li and Xiaojiang Du},
journal= {arXiv preprint arXiv:2011.13526},
year = {2020}
}