人脸验证系统的广义攻击
密码学与安全
2023-09-13 v1 计算机视觉与模式识别
机器学习
摘要
使用深度神经网络模型的人脸验证(FV)近年来取得了巨大进展，超越了人类准确率，并部署于边境控制和智能手机解锁等多种应用中。然而，FV系统易受对抗攻击(Adversarial Attacks)的威胁，此类攻击操纵输入图像以欺骗这些系统，且通常人类难以察觉。本文对人脸验证系统的攻击进行了深入研究。我们引入了躲避-冒充攻击(DodgePersonation Attack)，其将生成这样的人脸图像：冒充给定的一组身份，同时避免被识别为另一个互不相交集合中的任何身份。我们提出了一种分类法，以统一视角看待针对FV系统的各类对抗攻击，包括躲避攻击(Dodging Attacks)、冒充攻击(Impersonation Attacks)和主脸攻击(Master Face Attacks)。最后，我们提出了“一统众脸”(One Face to Rule Them All)攻击，该攻击以最先进性能实现了DodgePersonation Attack在知名场景(主脸攻击)上的应用，也可用于本文提出的新场景。现有最先进的主脸攻击可生成9张图像覆盖其测试数据库中43.82%的身份，而我们的攻击用9张图像可覆盖这些身份的57.27%至58.5%，同时让攻击者能选择用于生成冒充的身份。此外，生成的9张攻击图像在 casual observer（ casual observer 指 casual observer 即 casual observer）看来完全相同。
引用
@article{arxiv.2309.05879,
title = {Generalized Attacks on Face Verification Systems},
author = {Ehsan Nazari and Paula Branco and Guy-Vincent Jourdan},
journal= {arXiv preprint arXiv:2309.05879},
year = {2023}
}