中文

BRIEF-Pro:用于快速准确多跳推理的通用上下文压缩与长短综合

计算与语言 2026-04-28 v2

摘要

随着检索增强生成 (RAG) 解决复杂任务的需求不断增长,越来越大的上下文提供了更丰富的信息,但以更高的延迟和增加的认知负荷为代价。为缓解这一瓶颈,尤其是针对复杂的多跳问题,我们引入了 BRIEF-Pro。它是一个通用、轻量级的压缩器,从检索文档中提炼出针对给定查询的相关证据,生成简洁的摘要,以便无缝集成到基于上下文 RAG 中。使用由相对较短的上下文(少于 1000 单词)组成的种子数据,BRIEF-Pro 被训练执行对超过 10000 单词的扩展上下文进行抽象压缩,涵盖广泛的场景。此外,BRIEF-Pro 提供灵活的用户控制,可通过指定所需的句子数量来调整摘要长度。在四个开放域多跳问答数据集上的实验表明,BRIEF-Pro 生成更简洁且更相关的摘要,提升了小型、大型和专有语言模型的性能。对于 70B 读取模型,BRIEF-Pro 的 32 倍压缩相较于 LongLLMLingua 的 9 倍压缩,平均提升 QA 性能 4.67%,而只需其计算开销的 23%。

关键词

引用

@article{arxiv.2510.13799,
  title  = {BRIEF-Pro: Universal Context Compression with Short-to-Long Synthesis for Fast and Accurate Multi-Hop Reasoning},
  author = {Jia-Chen Gu and Junyi Zhang and Di Wu and Yuankai Li and Kai-Wei Chang and Nanyun Peng},
  journal= {arXiv preprint arXiv:2510.13799},
  year   = {2026}
}

备注

Accepted by ACL 2026 Findings. Code and data: https://github.com/JasonForJoy/BRIEF