沉默的螺旋：大型语言模型如何扼杀信息检索？——一项关于开放域问答的案例研究
信息检索
2024-06-25 v4
摘要
检索增强生成（Retrieval-Augmented Generation, RAG）的实践，即将大型语言模型（Large Language Models, LLMs）与检索系统集成，已变得越来越普遍。然而，LLM生成的内容渗透到网络并影响检索-生成反馈循环的后果，在很大程度上仍是未知领域。在本研究中，我们构建并迭代运行了一个模拟流程，以深入探究LLM文本对RAG系统的短期和长期影响。以流行的开放域问答（Open Domain Question Answering, ODQA）任务为切入点，我们的发现揭示了一种潜在的“沉默的螺旋”数字效应，即LLM生成的文本在搜索排名中持续优于人类创作的内容，从而削弱了人类贡献在网络上的存在感和影响力。这一趋势有可能造成一个不平衡的信息生态系统，其中错误的LLM生成内容不受限制地扩散，可能导致准确信息被边缘化。我们敦促学术界关注这一潜在问题，以确保一个多样且真实的数字信息环境。
引用
@article{arxiv.2404.10496,
title = {Spiral of Silence: How is Large Language Model Killing Information Retrieval? -- A Case Study on Open Domain Question Answering},
author = {Xiaoyang Chen and Ben He and Hongyu Lin and Xianpei Han and Tianshu Wang and Boxi Cao and Le Sun and Yingfei Sun},
journal= {arXiv preprint arXiv:2404.10496},
year = {2024}
}
备注
Accepted to ACL2024