关于 LLM 在篡改检测领域能力的研究
计算机视觉与模式识别
2024-01-25 v1
摘要
近年来，特别是自 2020 年代初以来，大型语言模型（LLM）已成为应对从自然语言处理到各个领域复杂问题求解等各种挑战的最强大人工智能工具。在篡改检测领域，LLM 能够识别基本的篡改活动。为了评估 LLM 在更专业领域的能力，我们收集了由不同公司开发的五种不同的 LLM：GPT-4、LLaMA、Bard、ERNIE Bot 4.0 和通义千问。这种多样化的模型允许对其在检测复杂篡改实例中的性能进行全面评估。我们设计了两个检测领域：AI 生成内容（AIGC）检测和篡改检测。AIGC 检测旨在测试区分图像是真实的还是 AI 生成的能力。另一方面，篡改检测侧重于识别被篡改的图像。根据我们的实验，大多数 LLM 能够识别不符合逻辑的合成图片，而只有更强大的 LLM 才能区分逻辑上合理但人眼可见的篡改痕迹。所有 LLM 都无法识别精心伪造的图像和 AI 生成的非常逼真的图像。在篡改检测领域，LLM 仍有很长的路要走，特别是在可靠地识别高度复杂的伪造品和高度模仿现实的 AI 生成图像方面。
引用
@article{arxiv.2401.13504,
title = {Research about the Ability of LLM in the Tamper-Detection Area},
author = {Xinyu Yang and Jizhe Zhou},
journal= {arXiv preprint arXiv:2401.13504},
year = {2024}
}