面部深度伪造检测器为何失效？
密码学与安全
2023-09-12 v2 机器学习
摘要
近期深度伪造技术的快速进展使得高度逼真的伪造媒体（如视频、图像和音频）得以生成。这些材料对人类认证构成重大挑战，例如冒充、虚假信息，甚至对国家安全造成威胁。为跟上这些快速进展，已有若干深度伪造检测算法被提出，导致深度伪造制造者与检测者之间持续的军备竞赛。然而，这些检测器往往不可靠，且频繁未能检测出深度伪造。本研究强调了它们在检测深度伪造时所面临的挑战，包括（1）伪影的预处理流水线，以及（2）在构建防御模型时未考虑生成新的、未见过的深度伪造样本的生成器。我们的工作揭示了该领域亟需进一步研究与开发，以创建更鲁棒、更可靠的检测器。
引用
@article{arxiv.2302.13156,
title = {Why Do Facial Deepfake Detectors Fail?},
author = {Binh Le and Shahroz Tariq and Alsharif Abuadbba and Kristen Moore and Simon Woo},
journal= {arXiv preprint arXiv:2302.13156},
year = {2023}
}
备注
5 pages, ACM ASIACCS 2023