BRIEF-Pro：用于快速准确多跳推理的通用上下文压缩
高能物理 - 实验
2025-10-16 v1
摘要
随着检索增强生成（RAG）解决复杂任务，越来越广泛的上下文提供了更丰富的信息，但以更高的延迟和增加的模型认知负荷为代价。为缓解这一瓶颈，尤其是针对复杂的多跳问题，我们引入了 BRIEF-Pro。它是一个通用、轻量级的 compressor，将检索文档中针对给定查询的相关证据浓缩为简洁的摘要，以便无缝集成到 in-context RAG 中。使用 seed 数据，该数据由相对较短的上下文（少于 1000 单词）组成，BRIEF-Pro 被训练执行超过 10000 单词的上下文抽象压缩，涵盖广泛的场景。此外，BRIEF-Pro 通过允许用户指定所需的句子数量来实现对摘要长度的灵活控制。实验在四个开放域多跳问答数据集上进行，表明 BRIEF-Pro 生成更简洁且更相关的摘要，提升了小型、大型和专有语言模型的性能。对于 70B reader 模型，BRIEF-Pro 的 32 倍压缩相较于 LongLLMLingua 的 9 倍压缩，平均提高了 4.67% 的 QA 性能，而仅需其计算开销的 23%。
引用
@article{arxiv.2510.13798,
title = {Performance Studies of the Mu2e Cosmic Ray Veto Detector},
author = {Simon Corrodi and Mackenzie Devilbiss and E. Craig Dukes and Ralf Ehrlich and R. Craig Group and Tyler Horoho and Yuri Oksuzian and Paul Rubinov and Matthew Solt and Yongyi Wu},
journal= {arXiv preprint arXiv:2510.13798},
year = {2025}
}
备注
21 pages (excluding title page), 12 figures. To be published in Nuclear Instruments and Methods in Physics Research Section A: Accelerators, Spectrometers, Detectors and Associated Equipment