大语言模型生成内容检测综述
计算与语言
2023-10-25 v1 人工智能
计算机与社会
人机交互
机器学习
摘要
ChatGPT 等先进大语言模型（LLM）能力的迅猛发展导致了合成内容生成的增多，这对媒体、网络安全、公共话语和教育等多个领域产生了影响。因此，检测 LLM 生成内容的能力变得至关重要。我们旨在提供对现有检测策略和基准的详细概述，审视其差异并识别该领域的关键挑战与前景，倡导更具适应性和鲁棒性的模型以提升检测精度。我们还提出有必要采用多方位方法来防御各种攻击，以应对 LLM 快速进化的能力。据我们所知，本工作是 LLM 时代检测领域的首个综合性综述。我们希望它能为 LLM 生成内容检测的现状提供广泛理解，为致力于在日益由合成内容主导的时代维护数字信息完整性的研究者和从业者提供指导性参考。相关论文已汇总并将在 https://github.com/Xianjun-Yang/Awesome_papers_on_LLMs_detection.git 持续更新。
引用
@article{arxiv.2310.15654,
title = {A Survey on Detection of LLMs-Generated Content},
author = {Xianjun Yang and Liangming Pan and Xuandong Zhao and Haifeng Chen and Linda Petzold and William Yang Wang and Wei Cheng},
journal= {arXiv preprint arXiv:2310.15654},
year = {2023}
}
备注
We will keep updating at https://github.com/Xianjun-Yang/Awesome_papers_on_LLMs_detection.git