人脸识别中物理对抗补丁的可控评估与生成
计算机视觉与模式识别
2022-03-11 v2
摘要
近期研究揭示了人脸识别模型对物理对抗补丁的脆弱性，这引发了人们对已部署人脸识别系统的安全担忧。然而，在复杂物理条件下确保大多数攻击算法的可复现性仍然具有挑战性，导致缺乏对现有方法的系统性评估。因此，亟需开发一个能够对物理世界中人脸识别脆弱性进行全面评估的框架。为此，我们提出通过三维人脸建模来模拟物理世界中人脸的复杂变换，作为物理人脸的数字对应物。该通用框架允许我们控制不同人脸变化和物理条件，从而进行全面的可复现评估。利用该数字模拟器，我们进一步提出了一种考虑三维人脸变换和真实物理变化的 Face3DAdv 方法。大量实验验证，Face3DAdv 能在模拟和物理环境中显著提升多种物理可实现的对抗补丁针对各类白盒和黑盒人脸识别模型的有效性。
引用
@article{arxiv.2203.04623,
title = {Controllable Evaluation and Generation of Physical Adversarial Patch on Face Recognition},
author = {Xiao Yang and Yinpeng Dong and Tianyu Pang and Zihao Xiao and Hang Su and Jun Zhu},
journal= {arXiv preprint arXiv:2203.04623},
year = {2022}
}