SocialDF：面向社交媒体平台的有害深度伪造内容基准数据集与检测模型
机器学习
2025-06-09 v1 多媒体
摘要
深度生成模型的快速发展显著提升了合成媒体的逼真度，既带来机遇也带来安全挑战。虽然深度伪造技术在娱乐和可访问性等领域具有有价值的应用，但它已成为针对社交媒体平台的一种强大信息操纵工具。现有检测框架难以区分善意与恶意生成的深度伪造内容。为此，我们引入 SocialDF，一个反映社交媒体平台上实际深度伪造挑战的精选数据集。该数据集涵盖来自 various 在线生态系统中高保真深度伪造内容，确保对各种操纵技术的广泛覆盖。我们提出一种基于大语言模型的多因素检测方法，结合面部识别、自动语音转录和多智能体 LLM 流水线，对音视频线索进行交叉验证。我们的 methodology 强调鲁棒的多模态验证技术，纳入语言、行为和情境分析，以有效区分合成媒体与真实内容。
关键词
引用
@article{arxiv.2506.05538,
title = {SocialDF: Benchmark Dataset and Detection Model for Mitigating Harmful Deepfake Content on Social Media Platforms},
author = {Arnesh Batra and Anushk Kumar and Jashn Khemani and Arush Gumber and Arhan Jain and Somil Gupta},
journal= {arXiv preprint arXiv:2506.05538},
year = {2025}
}