用传统信息检索方法改进神经排序模型
信息检索
2023-08-30 v1 计算与语言
摘要
基于大型Transformer模型的神经排序方法近来在信息检索领域受到显著关注，并已被主要商业解决方案所采用。然而，它们的构建计算代价高昂，且需要大量标注数据以用于专门语料库。在本文中，我们探索了一种低资源替代方案，即一种用于文档检索的词嵌入袋模型，并发现其与在信息检索任务上微调的大型Transformer模型具有竞争力。我们的结果表明，将TF-IDF这一传统关键词匹配方法与浅层嵌入模型简单结合，提供了一条低成本路径，可在3个数据集上与复杂神经排序模型的性能良好竞争。此外，加入TF-IDF度量提升了大规模微调模型在这些任务上的性能。
引用
@article{arxiv.2308.15027,
title = {Improving Neural Ranking Models with Traditional IR Methods},
author = {Anik Saha and Oktie Hassanzadeh and Alex Gittens and Jian Ni and Kavitha Srinivas and Bulent Yener},
journal= {arXiv preprint arXiv:2308.15027},
year = {2023}
}
备注
Short paper, 4 pages