AI 生成文本检测的可能性与不可能性：一项综述
计算与语言
2023-10-25 v1 人工智能
摘要
大语言模型（LLMs）以生成类人文本响应的卓越能力革新了自然语言处理（NLP）领域。然而，尽管有这些进展，现有文献中的若干工作已对 LLMs 的潜在滥用（如传播错误信息、生成假新闻、学术剽窃以及污染网络）提出严重担忧。为应对这些担忧，研究界的共识是开发算法解决方案以检测 AI 生成文本。基本思路是：只要我们能够判断给定文本是由人类还是 AI 撰写，便可利用此信息解决上述担忧。为此，已提出大量检测框架，凸显了 AI 生成文本检测的可能性。但与检测框架发展并行，研究者也专注于设计规避检测的策略，即关注 AI 生成文本检测的不可能性。这是确保检测框架足够鲁棒且不易被欺骗的关键步骤。尽管该领域兴趣浓厚且研究纷涌，学界目前仍缺乏对其近期进展的综合性分析。本综述旨在对涵盖 AI 生成文本检测前景与局限的当前工作提供简明分类与概览。为丰富集体知识，我们就与 AI 生成文本检测持续研究相关的关键且具挑战性的开放问题展开详尽讨论。
引用
@article{arxiv.2310.15264,
title = {Towards Possibilities & Impossibilities of AI-generated Text Detection: A Survey},
author = {Soumya Suvra Ghosal and Souradip Chakraborty and Jonas Geiping and Furong Huang and Dinesh Manocha and Amrit Singh Bedi},
journal= {arXiv preprint arXiv:2310.15264},
year = {2023}
}