基于相关反馈嵌入的零样态稠密检索
信息检索
2024-10-29 v1 人工智能
计算与语言
机器学习
摘要
在缺乏相关 supervision 时，构建有效的稠密检索系统仍具挑战性。近期研究尝试通过大语言模型(LLM)生成假设文档以寻找最近的真实文档，但该方法依赖LLM具备查询相关的领域知识，且生成假设文档效率低下。为此，本文提出真实文档嵌入来自相关反馈(ReDE-RF)。灵感来源于相关反馈，ReDE-RF将假设文档生成重新定义为相关性估计任务，使LLM仅需判断文档是否相关即可用于最近邻搜索。通过这种重新定义，LLM无需具备领域知识，仅需判断相关性；此外，相关性估计仅需输出单个标记，显著降低检索延迟。实验表明，ReDE-RF在广泛的低资源检索数据集上 consistently 超越零样态稠密检索的最新方法，同时显著改善查询延迟。
引用
@article{arxiv.2410.21242,
title = {Zero-Shot Dense Retrieval with Embeddings from Relevance Feedback},
author = {Nour Jedidi and Yung-Sung Chuang and Leslie Shing and James Glass},
journal= {arXiv preprint arXiv:2410.21242},
year = {2024}
}