可迁移的对抗性人脸图像:用于隐私保护
计算机视觉与模式识别
2024-08-06 v1 人工智能
摘要
深度人脸识别系统的成功已引发严重的隐私担忧,因为其能够使未经授权的用户在数字世界中进行跟踪。以往的研究提出通过向人脸图像中引入不可察觉的对抗噪声来欺骗这些人脸识别模型,从而实现增强人脸隐私保护的目标。然而,这些方法严重依赖于用户选择的参考图像来指导对抗噪声的生成,无法在黑盒场景下同时构建自然且高度可迁移的对抗性人脸图像。鉴于此,我们提出一种在保持高视觉质量的同时提升可迁移性的人脸隐私保护方案。我们直接操控整个人脸空间,而非利用单一人脸特征(如化妆信息)来整合对抗噪声。为实现此目标,我们首先利用全局对抗潜在搜索遍历生成模型的潜在空间,从而创建具有高可迁移性的自然对抗性人脸图像。随后,我们引入关键 landmarks 正则化模块以保留视觉身份信息。最后,我们研究了各种潜在空间的影响,发现 潜在空间有助于在视觉自然性和对抗可迁移性之间取得权衡。大量实验表明,我们的方法在保持高视觉质量的同时显著提升了攻击可迁移性,在两个数据集上均优于当前最先进的方法,在深度人脸识别模型上平均提升 25%,在商业人脸识别 API(包括 Face++、Aliyun 和 Tencent)上提升 10%。
引用
@article{arxiv.2408.01428,
title = {Transferable Adversarial Facial Images for Privacy Protection},
author = {Minghui Li and Jiangxiong Wang and Hao Zhang and Ziqi Zhou and Shengshan Hu and Xiaobing Pei},
journal= {arXiv preprint arXiv:2408.01428},
year = {2024}
}
备注
Accepted by ACM MM 2024