Deepfake 检测器在现实中有效吗？
计算机视觉与模式识别
2025-02-18 v1 人工智能
摘要
Deepfake，尤其是涉及 faceswap 操作的篡改，因其日益逼真的效果和潜在的滥用而引发了重大的社会关切。尽管生成模型发展迅速，但检测方法尚未跟上步伐，在防御策略中形成了关键缺口。这一差距因学术研究与实际应用之间的脱节而进一步放大，后者往往优先考虑不同的目标和评估标准。在本研究中，我们通过一个关键观察迈出了弥合这一差距的重要一步：在现实场景中广泛采用的后处理超分辨率步骤，显著削弱了现有 Deepfake 检测方法的有效性。为证实这一主张，我们引入并发布了首个来自热门在线 faceswap 平台的真实世界 faceswap 数据集。然后，我们在真实世界 Deepfake 上对最先进的 Deepfake 检测器进行定性评估，揭示其准确率接近随机猜测的水平。此外，我们定量展示了常见后处理技术导致的显著性能下降。通过解决这一被忽视的挑战，我们的研究强调了在现实环境中提升 Deepfake 检测方法的鲁棒性和实际适用性的关键方向。
引用
@article{arxiv.2502.10920,
title = {Do Deepfake Detectors Work in Reality?},
author = {Simiao Ren and Hengwei Xu and Tsang Ng and Kidus Zewde and Shengkai Jiang and Ramini Desai and Disha Patil and Ning-Yau Cheng and Yining Zhou and Ragavi Muthukrishnan},
journal= {arXiv preprint arXiv:2502.10920},
year = {2025}
}