DeepFakes：人脸识别的新威胁？评估与检测

利用预训练的生成对抗网络（GAN），在视频中将一人的脸自动替换为另一人的脸正变得愈发容易。近期的公共丑闻，例如名人的脸被替换到色情视频上，呼唤自动检测这些 Deepfake 视频的方法。为助力开发此类方法，我们在本文中呈现了第一组公开可用的 Deepfake 视频集，其由 VidTIMIT 数据库的视频生成。我们使用基于 GAN 的开源软件创建 Deepfakes，并强调训练与混合参数会显著影响所得视频的质量。为展示该影响，我们使用不同调参设定生成了低视觉质量与高视觉质量的视频（各 320 段）。我们表明，基于 VGG 和 Facenet 神经网络的最先进人脸识别系统易受 Deepfake 视频攻击，其错误接受率分别为 85.62% 和 95.00%，这意味着检测 Deepfake 视频的方法是必要的。通过考量若干基线方法，我们发现基于唇形同步不一致检测的视听方法无法区分 Deepfake 视频。表现最佳的方法基于视觉质量度量，且常用于呈现攻击检测领域，其在高质量 Deepfakes 上取得了 8.97% 的等错误率。我们的实验表明，GAN 生成的 Deepfake 视频对人脸识别系统和现有检测方法均构成挑战，且换脸技术的进一步发展将使挑战更为严峻。