深度伪造检测面临的对抗威胁：一种实用视角
计算机视觉与模式识别
2020-11-20 v1
摘要
面部被操纵的图像和视频（即 DeepFakes）可被恶意用于助长虚假信息或诽谤个人。因此，检测 DeepFakes 对于提高社交媒体平台及其他媒体共享网站的可信度至关重要。最先进的 DeepFake 检测技术依赖于基于神经网络的分类模型，而这类模型已知易受对抗样本攻击。在本工作中，我们从实用角度研究最先进 DeepFake 检测方法的漏洞。我们在黑盒设定下对 DeepFake 检测器实施对抗攻击，此时攻击者对分类模型不具备完整知识。我们研究了对抗扰动在不同模型间迁移的程度，并提出了提升对抗样本可迁移性的技术。我们还利用通用对抗扰动（Universal Adversarial Perturbations）构建了更易实施的攻击，这类攻击场景非常可行，因为它们可在攻击者之间轻易共享。我们在 DeepFake Detection Challenge (DFDC) 的获胜方案上进行了评估，结果表明通过设计可迁移且易获取的对抗攻击，这些方案在实用攻击场景中可被轻易绕过。
引用
@article{arxiv.2011.09957,
title = {Adversarial Threats to DeepFake Detection: A Practical Perspective},
author = {Paarth Neekhara and Brian Dolhansky and Joanna Bitton and Cristian Canton Ferrer},
journal= {arXiv preprint arXiv:2011.09957},
year = {2020}
}