对抗性 Deepfake：评估 Deepfake 检测器对对抗样本的脆弱性
计算机视觉与模式识别
2020-11-10 v3
摘要
近期视频操控技术的进展使得假视频的生成比以往任何时候都更容易。被操控的视频可能助长虚假信息并降低对媒体的信任。因此，假视频检测在学术界与工业界引起了极大兴趣。近期开发的 Deepfake 检测方法依赖深度神经网络（DNNs）来区分 AI 生成的假视频与真实视频。本工作中，我们证明可通过对抗性修改利用现有 Deepfake 生成方法合成的假视频来绕过此类检测器。我们进一步证明，我们的对抗扰动对图像与视频压缩编解码器具有鲁棒性，使其成为现实威胁。我们给出了白盒与黑盒攻击场景下的流水线，能够欺骗基于 DNN 的 Deepfake 检测器将假视频分类为真实视频。
引用
@article{arxiv.2002.12749,
title = {Adversarial Deepfakes: Evaluating Vulnerability of Deepfake Detectors to Adversarial Examples},
author = {Shehzeen Hussain and Paarth Neekhara and Malhar Jere and Farinaz Koushanfar and Julian McAuley},
journal= {arXiv preprint arXiv:2002.12749},
year = {2020}
}
备注
Published as a conference paper at WACV 2021