零样本稠密检索的全面考察
计算与语言
2023-04-25 v2 信息检索
摘要
近年来，基于强大的预训练语言模型（PLM）的稠密检索（DR）取得了显著进展。DR 模型在多个基准数据集上取得了优异的性能，但在零样本检索设置中，它们的表现不如传统的稀疏检索模型（例如 BM25）。然而，相关文献中仍然缺乏对零样本检索的详细且全面的研究。本文首次对 DR 模型的零样本能力进行了全面考察。我们旨在识别关键因素，并分析它们如何影响零样本检索性能。具体而言，我们讨论了与源训练集相关的几个关键因素的影响，分析了来自目标数据集的潜在偏差，并回顾和比较了现有的零样本 DR 模型。我们的发现为更好地理解和开发零样本 DR 模型提供了重要证据。
引用
@article{arxiv.2204.12755,
title = {A Thorough Examination on Zero-shot Dense Retrieval},
author = {Ruiyang Ren and Yingqi Qu and Jing Liu and Wayne Xin Zhao and Qifei Wu and Yuchen Ding and Hua Wu and Haifeng Wang and Ji-Rong Wen},
journal= {arXiv preprint arXiv:2204.12755},
year = {2023}
}