重新思考检索增强生成中的软压缩：基于查询条件选择器的视角
计算与语言
2026-03-24 v2 人工智能
信息检索
摘要
检索增强生成（RAG）有效地将大语言模型（LLM）与外部知识相结合，广泛应用于 Web 相关任务。然而，其可扩展性受到上下文长度过长和冗余检索的限制。最近的软上下文压缩研究旨在通过将长文档编码为紧凑嵌入来解决此问题，但往往因依赖类自编码器的全压缩而表现不佳，该方法迫使编码器压缩文档的所有信息，而不顾其与输入查询的相关性。在本工作中，我们对该范式进行分析，揭示两种根本性局限性：（I）不可行性，全压缩与 LLM 的下游生成行为冲突；（II）非必要：全压缩是不必要的，会稀释任务相关信息密度。鼓励这些见解，我们引入 SeleCom，一种用于 RAG 的选择器基的软压缩框架，重新定义编码器的角色为查询条件信息选择器。该选择器是解码器-only，并且在大规模、多样且难度分层的合成 QA 数据集上进行训练。广泛的实验表明，SeleCom 显著优于现有的软压缩方法，在保持计算和延迟降低 33.8%~84.6%的同时，实现与非压缩基线线的竞争或更佳性能。
引用
@article{arxiv.2602.15856,
title = {Rethinking Soft Compression in Retrieval-Augmented Generation: A Query-Conditioned Selector Perspective},
author = {Yunhao Liu and Zian Jia and Xinyu Gao and Kanjun Xu and Yun Xiong},
journal= {arXiv preprint arXiv:2602.15856},
year = {2026}
}
备注
Accepted by WWW 2026