匹配你的词！神经信息检索中词汇匹配的研究
信息检索
2021-12-14 v2 计算与语言
摘要
神经信息检索模型有望在现代搜索引擎中取代词汇匹配模型（如BM25）。尽管它们在MS MARCO等域内数据集上已充分展现能力，但最近在域外零样本设置（BEIR基准）上受到挑战，令人质疑其与词袋方法相比实际的泛化能力。特别地，我们想知道这些缺陷是否（部分）源于神经IR模型无法开箱即用地进行词汇匹配。本工作中，我们提出一种度量任意（神经）模型所执行词汇匹配与“理想”词汇匹配之间差异的方法。基于此，我们研究不同最先进神经IR模型的行为，聚焦于它们在真正有用时（即对重要词项）是否能够执行词汇匹配。总体而言，我们表明神经IR模型在域外集合或训练期间几乎未见过的词项上无法正确泛化词项重要性。
引用
@article{arxiv.2112.05662,
title = {Match Your Words! A Study of Lexical Matching in Neural Information Retrieval},
author = {Thibault Formal and Benjamin Piwowarski and Stéphane Clinchant},
journal= {arXiv preprint arXiv:2112.05662},
year = {2021}
}
备注
Accepted in the 44nd European Conference on Information Retrieval (ECIR'22), short paper track