在人脸流形上探索对抗性伪造图像
计算机视觉与模式识别
2021-05-20 v2
摘要
由强大的基于生成对抗网络（GAN）的方法合成的图像已引发道德与隐私担忧。尽管图像取证模型在区分伪造与真实图像上已取得优异性能，但这些模型很容易被简单的对抗攻击所欺骗。然而，加噪的对抗样本同样会引起怀疑。在本文中，我们不添加对抗噪声，而是在人脸流形上最优搜索对抗点以生成反取证伪造人脸图像。我们在生成模型（如 StyleGAN）的潜空间中迭代地执行小步梯度下降，以寻找对抗潜向量，这类似于基于范数的对抗攻击但位于潜空间中。随后，由对抗潜向量借助 GAN 生成的伪造图像可击败主流取证模型。例如，它们使基于 Xception 或 EfficientNet 的深度伪造检测模型准确率从超过 90% 降至近 0%，同时保持高视觉质量。此外，我们发现对不同层级的风格向量 或噪声向量 进行操控会对攻击成功率产生影响。所生成的对抗图像主要表现为面部纹理或人脸属性的改变。
引用
@article{arxiv.2101.03272,
title = {Exploring Adversarial Fake Images on Face Manifold},
author = {Dongze Li and Wei Wang and Hongxing Fan and Jing Dong},
journal= {arXiv preprint arXiv:2101.03272},
year = {2021}
}