面向长上下文检索增强生成的层次化文档细化
计算与语言
2025-05-16 v1
摘要
实际应用中的检索增强生成（RAG）常面临长上下文输入场景，冗余信息和噪声会导致更高的推理成本和性能下降。为此，我们提出 LongRefiner，一种高效且即插即用的细化器，利用长文档固有的结构特征。LongRefiner 采用双层查询分析、层次化文档结构化以及基于单一基础模型的自适应多任务学习来实现细化。实验在七个 QA 数据集上进行，表明 LongRefiner 在各种场景下均能实现与最佳基线相当的性能，同时计算成本和延迟降低约 10 倍。进一步分析表明，LongRefiner 在可扩展性、效率和有效性方面均表现出色，为实际应用中的长文本 RAG 提供了实用见解。我们的代码已公开于 https://github.com/ignorejjj/LongRefiner。
引用
@article{arxiv.2505.10413,
title = {Hierarchical Document Refinement for Long-context Retrieval-augmented Generation},
author = {Jiajie Jin and Xiaoxi Li and Guanting Dong and Yuyao Zhang and Yutao Zhu and Yongkang Wu and Zhonghua Li and Qi Ye and Zhicheng Dou},
journal= {arXiv preprint arXiv:2505.10413},
year = {2025}
}