利用伪相关反馈改进稠密检索的查询表示
信息检索
2021-09-01 v1 人工智能
摘要
稠密检索系统使用嵌入表示和简单相似度度量来进行首轮检索，以匹配查询与文档。其有效性依赖于编码嵌入来捕获查询和文档的语义，但由于搜索查询的简短和模糊性，这是一项具有挑战性的任务。本文提出ANCE-PRF，一种利用伪相关反馈（PRF）来改进稠密检索查询表示的新查询编码器。ANCE-PRF使用BERT编码器，该编码器消费来自稠密检索模型ANCE的查询和顶部检索文档，并学习直接从相关性标签产生更好的查询嵌入。它还保持文档索引不变以减少开销。ANCE-PRF在多个数据集上显著优于ANCE和其他近期稠密检索系统。分析表明，PRF编码器有效地从PRF文档中捕获相关和互补信息，同时利用其学习的注意力机制忽略噪声。
引用
@article{arxiv.2108.13454,
title = {Improving Query Representations for Dense Retrieval with Pseudo Relevance Feedback},
author = {HongChien Yu and Chenyan Xiong and Jamie Callan},
journal= {arXiv preprint arXiv:2108.13454},
year = {2021}
}
备注
Accepted at CIKM 2021