基于扩展查询训练的排序器令人惊讶的有效性
信息检索
2024-06-13 v2 人工智能
摘要
文本排序系统中的一个重要问题是处理构成查询分布尾部的困难查询。困难可能源于存在不常见、欠指定或不完整的查询。在这项工作中，我们在不损害其他查询性能的情况下，提高了困难或棘手查询的排序性能。首先，我们使用相关文档对训练查询进行基于LLM的查询扩展。然后，一个专门的排序器仅在扩展后的困难查询上进行微调，而不是原始查询。我们将专门排序器和基础排序器的相关性分数与每个查询估计的查询性能分数相结合。我们的方法不同于现有方法，后者通常对所有查询使用单个排序器，这偏向于构成查询分布多数的简单查询。在DL-Hard数据集上的大量实验中，我们发现，使用基础和专门排序器的基于原则的查询性能评分方法，在段落排序任务上相比使用原始查询的基线性能提高了高达25%，在文档排序任务上提高了高达48.4%，甚至优于SOTA模型。
引用
@article{arxiv.2404.02587,
title = {The Surprising Effectiveness of Rankers Trained on Expanded Queries},
author = {Abhijit Anand and Venktesh V and Vinay Setty and Avishek Anand},
journal= {arXiv preprint arXiv:2404.02587},
year = {2024}
}