ChatGPT能检测深度伪造吗？多模态大语言模型在媒体取证中的应用研究
人工智能
2024-06-12 v4 密码学与安全
摘要
深度伪造，指AI生成的媒体内容，因其被用作虚假信息的手段而日益受到关注。检测深度伪造目前通过编程的机器学习算法来解决。在这项工作中，我们研究了多模态大语言模型（LLMs）在深度伪造检测中的能力。我们进行了定性和定量实验，以展示多模态LLMs，并表明通过仔细的实验设计和提示工程，它们可以揭露AI生成的图像。这很有趣，考虑到LLMs并非天生为媒体取证任务量身定制，而且该过程不需要编程。我们讨论了多模态LLMs在这些任务中的局限性，并提出了可能的改进。
引用
@article{arxiv.2403.14077,
title = {Can ChatGPT Detect DeepFakes? A Study of Using Multimodal Large Language Models for Media Forensics},
author = {Shan Jia and Reilin Lyu and Kangran Zhao and Yize Chen and Zhiyuan Yan and Yan Ju and Chuanbo Hu and Xin Li and Baoyuan Wu and Siwei Lyu},
journal= {arXiv preprint arXiv:2403.14077},
year = {2024}
}