猫鼠游戏--假文本生成能否超越检测系统？
计算与语言
2025-06-27 v1
摘要
大型语言模型可以在学术写作、产品评论和政治新闻等领域生成令人信服的“假文本”。针对人工生成文本的检测，已有多种方法被探索。虽然这似乎预示着一种永无止境的“军备竞赛”，但我们注意到，较新的LLM使用更多的参数、训练数据和能源，而相对简单的分类器即可在有限资源下实现良好的检测准确率。为探讨模型是否能够超过检测器的能力是否可能达到平台期，我们检查了统计分类器识别经典侦探小说风格“假文本”的能力。在0.5个版本的提升后，我们发现Gemini显示出生成欺骗性文本的能力增强，而GPT并未表现出类似变化。这表明，即使对于更大的模型，可靠的假文本检测仍可能可行，尽管新的模型架构可能提高其欺骗性。
引用
@article{arxiv.2506.21274,
title = {Cat and Mouse -- Can Fake Text Generation Outpace Detector Systems?},
author = {Andrea McGlinchey and Peter J Barclay},
journal= {arXiv preprint arXiv:2506.21274},
year = {2025}
}
备注
(Submitted for publication)