TPRF:一种用于高效且有效检索的基于 Transformer 的伪相关反馈模型
信息检索
2024-12-09 v2
摘要
本文考虑在资源受限环境(如廉价的云实例或嵌入式系统,例如智能手机和智能手表)中,针对稠密检索器的伪相关反馈(Pseudo-Relevance Feedback, PRF)方法,这些环境的内存和 CPU 有限且没有 GPU。为此,我们提出了一种基于 Transformer 的 PRF 方法(TPRF),与采用 PRF 机制的其他深度语言模型相比,其内存占用要小得多,推理时间更快,而有效性仅有微小损失。TPRF 学习如何有效地结合来自稠密段落表示的相关反馈信号。具体而言,TPRF 提供了一种对查询与相关反馈信号之间的关系和权重进行建模的机制。该方法对所使用的特定稠密表示是不可知的,因此通常可应用于任何稠密检索器。
关键词
引用
@article{arxiv.2401.13509,
title = {TPRF: A Transformer-based Pseudo-Relevance Feedback Model for Efficient and Effective Retrieval},
author = {Hang Li and Chuting Yu and Ahmed Mourad and Bevan Koopman and Guido Zuccon},
journal= {arXiv preprint arXiv:2401.13509},
year = {2024}
}