AI生成内容在维基百科的崛起
计算与语言
2024-10-11 v1
摘要
AI生成内容在流行信息来源中的崛起引发了关于问责、准确性和偏好放大等方面的重大担忧。除了直接影响消费者之外，这种内容的广泛存在还对在广泛互联网数据集上训练语言模型的长期可行性提出了问题。我们使用GPTZero(一种专有AI检测器)和Binoculars(一种开源替代方案)，为确定最近创建维基百科页面中AI生成内容的下界提供了依据。两种检测器都显示，与GPT-3.5发布之前的页面相比，最近创建的页面中AI生成内容呈现明显增加。以在预GPT-3.5文章上实现1%的误报率为基准的阈值，检测器将新创建的英文维基百科文章中超过5%的文章标记为AI生成，对于德文、法文和意大利文文章的比例较低。被标记的维基百科文章通常质量较低，常常是自我推销或对特定观点的争议性话题持偏激态度。
引用
@article{arxiv.2410.08044,
title = {The Rise of AI-Generated Content in Wikipedia},
author = {Creston Brooks and Samuel Eggert and Denis Peskoff},
journal= {arXiv preprint arXiv:2410.08044},
year = {2024}
}