RAG 系统是否真的受到位置偏置的影响？
计算与语言
2025-10-09 v2 信息检索
摘要
检索增强生成 (Retrieval Augmented Generation) 通过向大语言模型提示词中添加来自外部语料库检索到的段落来提升模型准确性。本文探讨了位置偏置——即大语言模型倾向于根据信息在提示词中位置对其加权——如何影响不仅模型利用相关段落的能力，还影响其对干扰性段落的敏感性。通过在三个基准数据集上进行大量实验，我们展示了虽然旨在检索相关段落的前沿检索管道系统地将高度干扰性的段落置于前列，但超过 60% 的查询在前 10 个检索结果中包含至少一个高度干扰性段落。结果发现，尽管受控环境中报告为极其突出的大语言模型位置偏置在实际场景中实际影响有限，因为相关段落和干扰性段落都会被惩罚。我们的发现表明，旨在基于大语言模型位置偏好重新排列段落的复杂策略，不比随机混洗表现更好。
引用
@article{arxiv.2505.15561,
title = {Do RAG Systems Really Suffer From Positional Bias?},
author = {Florin Cuconasu and Simone Filice and Guy Horowitz and Yoelle Maarek and Fabrizio Silvestri},
journal= {arXiv preprint arXiv:2505.15561},
year = {2025}
}