评估与表征人脸识别的语义鲁棒性

深度神经网络对其输入的不可察觉扰动缺乏鲁棒性。基于 DNN 的人脸识别模型继承了这一脆弱性。我们提出了一种方法，用于评估和表征人脸识别模型对其输入的语义扰动的鲁棒性。我们的方法通过设计对抗性攻击来搜索保持身份的人脸修改，从而导致人脸识别模型发生故障。具体来说，给定一张人脸，我们的攻击会找到该人脸的保持身份的变体，使得人脸识别模型无法识别属于同一身份的图像。我们通过 StyleGAN 潜在空间中方向和幅度受限的扰动来建模这些保持身份的语义修改。我们进一步提出，通过统计描述导致人脸识别模型发生故障的扰动，来表征人脸识别模型的语义鲁棒性。最后，我们将该方法与一种认证技术相结合，从而提供 (i) 对人脸识别模型性能的理论保证，以及 (ii) 对人脸识别模型如何建模人脸身份概念的正式描述。