实用深度伪造检测：全局语境下的脆弱性
计算机视觉与模式识别
2022-06-22 v1 计算机与社会
摘要
深度学习的近期进展使得对视频进行逼真的数字篡改成为可能，即所谓的深度伪造(deepfakes)。该技术引发了关于虚假信息与真实性的重要社会关切，推动了众多深度伪造检测算法的发展。与此同时，训练数据与真实世界视频数据之间存在显著差异，可能削弱其实用效能。我们模拟数据损坏技术，并考察一种最先进的深度伪造检测算法在 FaceForensics++ 数据集的损坏变体上的性能。虽然深度伪造检测模型对符合训练时增强的视频损坏具有鲁棒性，但我们发现它们对模拟视频质量下降的视频损坏仍然脆弱。事实上，在加蓬总统 Bongo 新年讲话视频这一争议案例中，该算法对原始视频自信地判定为真，却将高度损坏的视频变体判定为伪造。我们的工作开辟了在全局语境下探索实用深度伪造检测的技术与伦理路径。
引用
@article{arxiv.2206.09842,
title = {Practical Deepfake Detection: Vulnerabilities in Global Contexts},
author = {Yang A. Chuming and Daniel J. Wu and Ken Hong},
journal= {arXiv preprint arXiv:2206.09842},
year = {2022}
}
备注
6 pages, 6 figures, presented as a workshop paper at Responsible AI @ ICLR 2021