ListT5:基于 Fusion-in-Decoder 的列表式重排序提升零样本检索
信息检索
2024-06-07 v3
摘要
我们提出了 ListT5,这是一种基于 Fusion-in-Decoder (FiD) 的新型重排序方法,能够在训练和推理阶段同时处理多个候选段落。我们还引入了一种基于 元锦标赛排序并带有输出缓存的高效列表式排序推理框架。我们在 BEIR 基准上对零样本检索任务评估并比较了我们的模型,结果表明 ListT5:(1) 优于最先进的 RankT5 基线,平均 NDCG@10 得分显著提升 +1.3;(2) 具有与点式排序模型相当的效率,并超越了以往列表式排序模型的效率;(3) 克服了以往列表式重排序器中的“中间丢失”(lost-in-the-middle) 问题。我们的代码、模型检查点和评估框架已在 \url{https://github.com/soyoung97/ListT5} 完全开源。
引用
@article{arxiv.2402.15838,
title = {ListT5: Listwise Reranking with Fusion-in-Decoder Improves Zero-shot Retrieval},
author = {Soyoung Yoon and Eunbi Choi and Jiyeon Kim and Hyeongu Yun and Yireun Kim and Seung-won Hwang},
journal= {arXiv preprint arXiv:2402.15838},
year = {2024}
}
备注
Accepted to ACL 2024 main (long)