深度伪造媒体 forensics：现状与挑战
计算机视觉与模式识别
2024-08-14 v2
摘要
AI 生成的合成媒体，也称为深度伪造 (Deepfakes)，已显著影响从娱乐到网络安全等多个领域。生成对抗网络 (GANs) 和扩散模型 (DMs) 是创建深度伪造的主要框架，能够产生高度逼真 yet 人造的内容。尽管这些技术开输了新的创意可能性，但也带来了由于潜在滥用而产生的实质性伦理和安全风险。这种高级媒体的兴起导致发展了一种认知偏差，即冒充偏差 (Impostor Bias)，即个体因意识到 AI 能力而怀疑多媒体的真实性。因此，深度伪造检测成为重要的研究领域，聚焦于使用机器学习技术，尤其是卷积神经网络 (CNNs)，识别细微不一致和痕迹。深度伪造 forensics 的研究涵盖五个主要领域：检测、归因与识别、被动身份验证、现实场景下的检测以及主动身份验证。本文综述了解决这些挑战的主要算法，审查了它们的优势、局限性及未来前景。
关键词
引用
@article{arxiv.2408.00388,
title = {Deepfake Media Forensics: State of the Art and Challenges Ahead},
author = {Irene Amerini and Mauro Barni and Sebastiano Battiato and Paolo Bestagini and Giulia Boato and Tania Sari Bonaventura and Vittoria Bruni and Roberto Caldelli and Francesco De Natale and Rocco De Nicola and Luca Guarnera and Sara Mandelli and Gian Luca Marcialis and Marco Micheletto and Andrea Montibeller and Giulia Orru' and Alessandro Ortis and Pericle Perazzo and Giovanni Puglisi and Davide Salvi and Stefano Tubaro and Claudia Melis Tonti and Massimo Villari and Domenico Vitulano},
journal= {arXiv preprint arXiv:2408.00388},
year = {2024}
}