基于网络锚文本的无监督稠密检索训练
信息检索
2023-05-11 v1 计算与语言
摘要
本文提出一种利用网络锚文本进行对比学习的无监督检索方法。锚文本描述了其所链接页面引用的内容，这与旨在从相关文档中检索 pertinent 信息的搜索查询具有相似性。基于上述共性，我们以匹配锚文本与链接文档的对比学习任务训练无监督稠密检索器 Anchor-DR。为过滤无信息锚文本（如“主页”或其他功能性锚文本），我们提出一种新颖的过滤技术，仅选取包含与搜索查询相似信息类型的锚文本。实验表明，Anchor-DR 在无监督稠密检索上大幅优于 SOTA 方法（例如在 MSMARCO 上 NDCG@10 提升 5.3%）。我们方法的增益在搜索与问答任务上尤为显著。我们的分析进一步揭示，锚文本-文档对的模式类似于搜索查询-文档对的模式。代码见 https://github.com/Veronicium/AnchorDR。
引用
@article{arxiv.2305.05834,
title = {Unsupervised Dense Retrieval Training with Web Anchors},
author = {Yiqing Xie and Xiao Liu and Chenyan Xiong},
journal= {arXiv preprint arXiv:2305.05834},
year = {2023}
}
备注
SIGIR'23 Short