针对 DeepFake 人脸替换的受限黑盒对抗攻击
计算机视觉与模式识别
2022-04-27 v1 密码学与安全
摘要
DeepFake 人脸替换对在线安全和社交媒体构成了重大威胁，它可以将任意照片/视频中的源人脸替换为完全不同的人的目标人脸。为了防止这种欺诈，一些研究人员开始研究针对 DeepFake 或人脸篡改的对抗方法。然而，现有的工作集中在白盒设置或由大量查询驱动的黑盒设置上，这严重限制了这些方法的实际应用。为了解决这个问题，我们引入了一种实用的对抗攻击，不需要对人脸图像伪造模型进行任何查询。我们的方法建立在一个追求人脸重建的替代模型上，然后将对抗样本从替代模型直接转移到不可访问的黑盒 DeepFake 模型。特别地，我们提出了可迁移循环对抗生成对抗网络（TCA-GAN）来构建对抗扰动，以破坏未知的 DeepFake 系统。我们还提出了一个新的后正则化模块，用于增强生成对抗样本的可迁移性。为了全面衡量我们方法的有效性，我们构建了一个具有挑战性的 DeepFake 对抗攻击基准，以供未来发展。大量实验令人印象深刻地表明，所提出的对抗攻击方法使 DeepFake 人脸图像的视觉质量骤降，从而使其更容易被人类和算法检测到。此外，我们证明所提出的算法可以泛化，为各种人脸转换方法提供人脸图像保护。
引用
@article{arxiv.2204.12347,
title = {Restricted Black-box Adversarial Attack Against DeepFake Face Swapping},
author = {Junhao Dong and Yuan Wang and Jianhuang Lai and Xiaohua Xie},
journal= {arXiv preprint arXiv:2204.12347},
year = {2022}
}