MixGR：通过互补粒度提升科学领域检索器的泛化能力
信息检索
2024-11-04 v2 计算与语言
摘要
最近的研究表明，文档检索在生成式大语言模型 (LLM) 的科学领域应用中扮演着越来越重要的作用， 通过填补其知识差距。然而，稠密检索器往往在处理领域特定检索和复杂查询-文档关系时表现不佳，尤其是当查询片段对应文档的不同部分时。为缓解这些普遍的挑战，本文引入了 MixGR，通过零样本方式提升稠密检索器对查询和文档在不同粒度水平上的匹配感知能力。MixGR 将这些粒度上的各种指标融合为一个统一的得分，以反映查询-文档的综合相似性。我们的实验表明，MixGR 在包含来自五个科学检索数据集中多个子查询的查询上，分别以无监督、监督和基于 LLM 的检索器为基准，分别在 nDCG@5 上提升了 24.7%、9.8% 和 6.9%。此外，两种下游科学问答任务的有效性也凸显了 MixGR 提升 LLM 在科学领域应用的优势。该代码和实验数据集均已公开。
引用
@article{arxiv.2407.10691,
title = {$\texttt{MixGR}$: Enhancing Retriever Generalization for Scientific Domain through Complementary Granularity},
author = {Fengyu Cai and Xinran Zhao and Tong Chen and Sihao Chen and Hongming Zhang and Iryna Gurevych and Heinz Koeppl},
journal= {arXiv preprint arXiv:2407.10691},
year = {2024}
}
备注
EMNLP 2024 Main Conference