DeAR：通过LLM蒸馏实现双阶段文档重排序与推理智能体
计算与语言
2025-08-26 v1 信息检索
摘要
大语言模型（LLM）通过使候选集上的全局推理成为可能，彻底改变了列表式文档重排序，但单一模型往往难以在细粒度相关性评分与整体跨文档分析之间取得平衡。我们提出深度智能体重排序（DeAR），一个开源框架，通过双阶段方法解耦这些任务，实现了更优的准确性和可解释性。在第一阶段，我们通过交叉熵、RankNet和KL散度损失的组合，将来自冻结的13B LLaMA教师的令牌级相关性信号蒸馏到紧凑的{3, 8}B学生模型中，确保稳健的点对点评分。在第二阶段，我们附加第二个LoRA适配器，并在20K个GPT-4o生成思维链排列上进行微调，使列表式推理能够以自然语言进行论证。在TREC-DL19/20、八个BEIR数据集和NovelEval-2306上的评估表明，DeAR在DL20上以+5.1 nDCG@5超越开源基线，并在NovelEval上达到90.97 nDCG@10，超越GPT-4达+3.09。在未使用Wikipedia微调的情况下，DeAR在开放域问答中也表现出色，在Natural Questions上达到54.29 Top-1准确率，超越了MonoT5、UPR和RankGPT等基线。消融实验证实，双损失蒸馏确保了稳定的校准，使DeAR成为现代重排序系统的高效且可解释的解决方案。
引用
@article{arxiv.2508.16998,
title = {DeAR: Dual-Stage Document Reranking with Reasoning Agents via LLM Distillation},
author = {Abdelrahman Abdallah and Jamshid Mozafari and Bhawna Piryani and Adam Jatowt},
journal= {arXiv preprint arXiv:2508.16998},
year = {2025}
}
备注
Accept at EMNLP Findings 2025