基于领域定向合成问题生成的零样本神经段落检索
信息检索
2021-01-28 v3 计算与语言
摘要
神经检索模型广泛采用的一个主要障碍是，它们需要大型有监督训练集才能超越由原始语料构建的传统基于词项的检索技术。本文提出一种用于段落检索的零样本学习方法，利用合成问题生成来弥补这一差距。问题生成系统在通用领域数据上训练，但应用于目标领域的文档。这使我们能够创建任意大规模却含噪声的、领域特定的问题—段落相关性对。此外，当其与简单的混合词项—神经模型结合时，可进一步提升第一阶段检索性能。通过实验，我们表明在缺乏大型训练语料的情况下，这是一种构建神经段落检索模型的有效策略。视领域不同，该技术甚至可接近有监督模型的精度。
引用
@article{arxiv.2004.14503,
title = {Zero-shot Neural Passage Retrieval via Domain-targeted Synthetic Question Generation},
author = {Ji Ma and Ivan Korotkov and Yinfei Yang and Keith Hall and Ryan McDonald},
journal= {arXiv preprint arXiv:2004.14503},
year = {2021}
}
备注
14 pages, 4 figures