利用生成式模型结合段落检索进行开放域问答
计算与语言
2021-02-04 v2 机器学习
摘要
用于开放域问答的生成式模型已被证明具有竞争力，且无需借助外部知识。尽管前景可观，但该方法需要使用具有数十亿参数的模型，其训练和查询成本高昂。本文研究了这些模型能从检索可能包含证据的文本段落中获得多大收益。我们在 Natural Questions 和 TriviaQA 开放基准上取得了最先进的结果。有趣的是，我们观察到当增加检索段落数量时，该方法的性能显著提升。这证明生成式模型擅长聚合和组合来自多个段落的证据。
引用
@article{arxiv.2007.01282,
title = {Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering},
author = {Gautier Izacard and Edouard Grave},
journal= {arXiv preprint arXiv:2007.01282},
year = {2021}
}