分离 RAG 阅读中的语义竞争与上下文长度效应
计算与语言
2026-05-27 v1 信息检索
摘要
检索增强生成 (RAG) 系统即使检索到正确段落,也可能作出错误响应。模型仍需读取检索到的段落,并在其他看似相关的段落中识别包含答案的那个段落。这种阅读模型称为“阅读器”。它是因为上下文长度过长导致失败,还是因为其他段落真正与正确段落产生竞争?我们提出并演示了一种用于 RAG 阅读的匹配-控制协议:保持段落数量和长度不变,但用不那么具竞争性的真实段落替换强竞争者。我们在两个紧凑开源模型上对 SQuAD 数据集应用该控制策略。该替换部分恢复了性能,尤其在 F1 分数和答案包含率上效果最明显。对于 Phi-2,恢复了 +6.0 个精确匹配分数、+7.0 个答案包含分数和 +0.057 的 F1 分数。对于 Qwen2.5-1.5B,恢复了 +4.5 个精确匹配分数、+9.0 个答案包含分数和 +0.068 的 F1 分数。为了跟踪随着竞争者累积时性能的变化,我们也报告了保留曲线,并用右截取半衰期对其进行总结(当曲线未达到一半保留值时)。总体而言,这些结果表明该协议隔离了一个与上下文长度独立的竞争效应,尽管该效应在 F1 和答案包含方面比在精确匹配方面更为明显,也随片段长度而变化。
引用
@article{arxiv.2605.27294,
title = {Separating Semantic Competition from Context Length in RAG Reading},
author = {Vyzantinos Repantis and Ameya Gawde and Harshvardhan Singh and Rohit Alekar and Cien Zhang and Svetlana Karslioglu and Akash Vishwakarma},
journal= {arXiv preprint arXiv:2605.27294},
year = {2026}
}
备注
4 pages, 1 figure, 2 tables