面向多跳问答的端到端束检索
计算与语言
2024-04-02 v2
摘要
多跳问答（QA）涉及寻找多个相关段落并逐步推理以回答复杂问题，体现出检索-阅读范式。然而，以往的检索器专为两跳问题定制，且大多在不同跳间分别训练，导致缺乏对整体多跳检索过程的监督，在超出两跳的复杂场景下性能不佳。本文引入 Beam Retrieval，一种面向多跳 QA 的端到端束检索框架。该方法通过跨所有跳联合优化编码器与两个分类头，以端到端方式对多跳检索过程建模。此外，Beam Retrieval 在每步维持多个相关段落的部分假设，扩展搜索空间并降低遗漏相关段落的风险。为构建完整 QA 系统，我们接入一个有监督阅读器或大型语言模型（LLM）。实验结果表明，Beam Retrieval 在具有挑战性的 MuSiQue-Ans 上相较基线实现近 50% 的提升，在 HotpotQA 上超越所有以往检索器，并在 2WikiMultiHopQA 上达到 99.9% 的准确率。通过提供高质量上下文，Beam Retrieval 助力我们的有监督阅读器取得新的最优性能，并大幅改善 LLM 的少样本 QA 性能。
引用
@article{arxiv.2308.08973,
title = {End-to-End Beam Retrieval for Multi-Hop Question Answering},
author = {Jiahao Zhang and Haiyang Zhang and Dongmei Zhang and Yong Liu and Shen Huang},
journal= {arXiv preprint arXiv:2308.08973},
year = {2024}
}
备注
Accepted by NAACL 2024 Main Conference. Code is available at https://github.com/canghongjian/beam_retriever