通过变换感知的对抗人脸防御基于 GAN 的深度伪造攻击
计算机视觉与模式识别
2020-06-16 v1 密码学与安全
图像与视频处理
摘要
深度伪造代表一类利用自编码器或生成对抗网络等机器学习模型的人脸交换攻击。尽管人脸交换的概念并不新鲜，但其近期的技术进步使得虚假内容（如图像、视频）更加逼真，且对人类来说难以察觉。目前已经探索了多种针对深度伪造攻击的检测技术。然而，这些方法都是针对深度伪造的被动措施，因为它们是在高质量虚假内容生成之后才采取的缓解策略。更重要的是，我们希望以稳健的防御手段先于攻击者一步。本工作旨在采取一种主动措施，以阻碍高质量虚假图像或视频的生成。具体来说，我们提出使用新颖的变换感知对抗扰动人脸作为防御基于 GAN 的深度伪造攻击的手段。与朴素的对抗人脸不同，我们提出的方法在生成过程中利用了可微分的随机图像变换。我们还提出使用一种基于集成的方法，以增强在黑盒设置下对基于 GAN 的深度伪造变体的防御鲁棒性。我们证明，使用对抗人脸训练深度伪造模型会导致合成人脸的质量显著下降。这种下降是双重的。一方面，合成人脸的质量降低，出现更多视觉伪影，使得合成人脸对人类观察者来说更明显地虚假或缺乏说服力。另一方面，合成人脸可以更容易地基于各种度量标准被检测出来。
引用
@article{arxiv.2006.07421,
title = {Defending against GAN-based Deepfake Attacks via Transformation-aware Adversarial Faces},
author = {Chaofei Yang and Lei Ding and Yiran Chen and Hai Li},
journal= {arXiv preprint arXiv:2006.07421},
year = {2020}
}