面向长上下文 RAG 的证据性引导压缩：ECoRAG
计算与语言
2025-06-09 v2 人工智能
信息检索
摘要
大型语言模型 (LLMs) 通过检索增强生成 (RAG) 在开域问答 (ODQA) 任务中展现出卓越性能。为降低 RAG 开销，需对长上下文进行压缩。然而，现有压缩方法未聚焦过滤非证据信息，限制了 LLM-based RAG 的性能。我们因此提出证据性引导 RAG 框架，即 ECoRAG。ECoRAG 通过依据证据性压缩检索文档，确保答案生成依赖正确证据。此外，ECoRAG 会反映压缩内容是否提供足够证据，如不足则继续检索直至足够。实验表明，ECoRAG 提升了 ODQA 任务中的 LLM 性能，超越现有压缩方法。 Furthermore，ECoRAG 极具成本效益，既减少延迟，又通过仅保留生成正确答案所必需信息来最小化 token 使用。代码已公开于 https://github.com/ldilab/ECoRAG。
引用
@article{arxiv.2506.05167,
title = {ECoRAG: Evidentiality-guided Compression for Long Context RAG},
author = {Yeonseok Jeong and Jinsu Kim and Dohyeon Lee and Seung-won Hwang},
journal= {arXiv preprint arXiv:2506.05167},
year = {2025}
}