理解RAG中无关章节的干扰效应
计算与语言
2025-10-29 v1 信息检索
摘要
检索增强生成（RAG）的一个知名问题是，与查询（以及LLM）无关的检索章节有时会干扰答案生成的LLM，导致其提供错误响应。在本文中，我们阐释了这一核心问题，提出衡量查询（以及LLM）相对于章节的干扰效应。我们提供了章节干扰效应的可量化度量，并展示其在不同LLM中的鲁棒性。我们的研究引入了若干新方法，用于识别和利用硬干扰章节以改进RAG系统。通过对这些精心挑选的干扰章节进行微调，我们实现了相较于基于常规RAG数据集微调的模型在回答准确性上提升最高可达7.5%。我们的贡献有两个方面：首先，我们超越了将无关章节简单二元分类为完全不相关或干扰性的做法；其次，我们开发并分析了多种寻找硬干扰章节的方法。据我们了解，目前尚无其他研究提供了如此全面的框架来识别和利用硬干扰章节。
引用
@article{arxiv.2505.06914,
title = {The Distracting Effect: Understanding Irrelevant Passages in RAG},
author = {Chen Amiraz and Florin Cuconasu and Simone Filice and Zohar Karnin},
journal= {arXiv preprint arXiv:2505.06914},
year = {2025}
}