基于相关性引导监督的 ColBERT 开放域问答

开放域问答（OpenQA）系统通常依赖于检索器在大型语料库中查找候选段落，以及阅读器从这些段落中抽取答案。在近期许多工作中，检索器是一个使用问题与段落的粗粒度向量表示的习得组件。我们认为这种建模选择不足以表达自然语言问题的复杂性。为此，我们定义了 ColBERT-QA，它将可扩展的神经检索模型 ColBERT 适配到 OpenQA。ColBERT 在问题与段落之间建立细粒度交互。我们提出了一种高效的弱监督策略，迭代地使用 ColBERT 来创建其自身的训练数据。这在 Natural Questions、SQuAD 和 TriviaQA 上大幅改善了 OpenQA 检索，并且所得系统在这三个数据集上均达到了最先进的抽取式 OpenQA 性能。