低频词对神经信息检索模型的影响
信息检索
2019-05-01 v2
摘要
低频词是信息检索模型反复面临的挑战,尤其是神经 IR(信息检索)框架难以充分捕捉低频观测词。虽然这些词经常从神经模型中移除——主要作为对效率需求的让步——但它们传统上在 IR 模型性能中起着重要作用。本文中,我们分析低频词对神经 IR 模型性能与鲁棒性的影响。我们在三个近期神经 IR 模型上进行受控实验,这些模型在大规模段落检索集合上训练。我们以其各自词嵌入的不同词汇表规模评估神经 IR 模型,考虑可用 GPU 内存的不同约束级别。我们观察到,尽管使用更大词汇表有显著益处,但词汇表之间的性能差距可在很大程度上通过对相关参数——重排序文档数——的广泛调优来缓解。我们进一步研究子词 token 嵌入模型,特别是 FastText,在神经 IR 模型中的使用。我们的实验表明,与在全词汇表上训练的模型相比,使用 FastText 为神经 IR 模型的整体性能带来轻微提升,而对于含低频词的查询,提升则明显得多。
引用
@article{arxiv.1904.12683,
title = {On the Effect of Low-Frequency Terms on Neural-IR Models},
author = {Sebastian Hofstätter and Navid Rekabsaz and Carsten Eickhoff and Allan Hanbury},
journal= {arXiv preprint arXiv:1904.12683},
year = {2019}
}
备注
Accepted at SIGIR'19