关于 DeepFake 检测器对去噪扩散模型所生成攻击的脆弱性
计算机视觉与模式识别
2023-10-31 v2
摘要
恶意 deepfake 的检测是一个不断演化的问题，需要持续监控检测器以确保其能检测最新生成模型所产生的图像篡改。本文中，我们研究单图像 deepfake 检测器对由最新一代生成方法即去噪扩散模型（DDMs）所创建的黑盒攻击的脆弱性。我们的实验在 FaceForensics++ 上运行，这是一个广泛使用的 deepfake 基准，包含通过多种人脸身份替换与人脸重演技术生成的篡改图像。攻击通过所提出的用于人脸修复的 DDM 方法对现有 deepfake 进行引导式重建来构造。我们的发现表明，在 deepfake 重建过程中仅采用单步去噪扩散即可显著降低被检测到的可能性，且不会引入任何可感知的图像修改。虽然使用攻击样本训练检测器显示出一定效果，但观察到在完全基于扩散的 deepfake 上训练的判别器在面对我们的攻击时泛化能力有限。
引用
@article{arxiv.2307.05397,
title = {On the Vulnerability of DeepFake Detectors to Attacks Generated by Denoising Diffusion Models},
author = {Marija Ivanovska and Vitomir Štruc},
journal= {arXiv preprint arXiv:2307.05397},
year = {2023}
}
备注
Submitted for review