利用属性条件对抗人脸规避取证分类器
计算机视觉与模式识别
2023-06-23 v1 密码学与安全
机器学习
摘要
生成模型生成高度逼真合成人脸图像的能力已引发安全与伦理担忧。作为抵御此类假脸的第一道防线，基于深度学习的取证分类器已被开发。尽管这些取证模型能以高准确率检测人脸图像为合成或真实，它们也易受对抗攻击。虽然此类攻击可高度成功地规避取证分类器检测，但会引入可见噪声模式，可通过细致人工审查发现。此外，这些攻击假设可访问目标模型，而这未必总成立。已有尝试直接扰动 GAN 的潜空间以产生可规避取证分类器的对抗假脸。本工作中，我们更进一步，表明有可能成功生成具有指定属性集（如发色、眼大小、种族、性别等）的对抗假脸。为实现该目标，我们利用具有解耦表示的最先进生成模型 StyleGAN，其可在不脱离自然图像流形的情况下实现一系列修改。我们提出一种在 StyleGAN 特征空间内搜索对抗潜码的框架，该搜索可由文本提示或参考图像引导。我们还提出一种基于元学习的优化策略，以在未知目标模型上实现可迁移性能。大量实验表明，所提方法能生成语义操控的对抗假脸，其忠实于指定属性集且可成功欺骗取证人脸分类器，同时不被人类察觉。代码：https://github.com/koushiksrivats/face_attribute_attack。
引用
@article{arxiv.2306.13091,
title = {Evading Forensic Classifiers with Attribute-Conditioned Adversarial Faces},
author = {Fahad Shamshad and Koushik Srivatsan and Karthik Nandakumar},
journal= {arXiv preprint arXiv:2306.13091},
year = {2023}
}
备注
Accepted in CVPR 2023. Project page: https://koushiksrivats.github.io/face_attribute_attack/