面向开放域问答的稠密段落检索编码器适配
信息检索
2021-10-05 v1 计算与语言
摘要
稠密段落检索器（DPR）的一个关键特征是在双编码器设计中使用独立的问题编码器与段落编码器。先前关于 DPR 泛化的工作主要聚焦于在分布外（OOD）问答（QA）任务上成对测试两个编码器，这也被称为域适配。然而，DPR 单个问题/段落编码器如何影响泛化仍属未知。具体而言，在本文中，我们想知道一个分布内（IND）问题/段落编码器若与来自另一域的 OOD 段落/问题编码器配对，将如何泛化。我们将此挑战称为\textit{编码器适配}。为回答该问题，我们考察了从五个基准 QA 数据集学到的 DPR 问题编码器与段落编码器在域内与域外问题上的不同组合。我们发现段落编码器对泛化的下界影响更大，而问题编码器似乎总体上影响上界。例如，应用 OOD 段落编码器通常会损害检索精度，而 OOD 问题编码器有时甚至提高精度。
引用
@article{arxiv.2110.01599,
title = {Encoder Adaptation of Dense Passage Retrieval for Open-Domain Question Answering},
author = {Minghan Li and Jimmy Lin},
journal= {arXiv preprint arXiv:2110.01599},
year = {2021}
}