中文

GenDec:一种用于多跳推理的鲁棒生成式问题分解方法

计算与语言 2024-02-20 v1

摘要

多跳问答(MHQA)需要逐步推理来回答复杂问题并寻找多个相关的支持事实。然而,现有大型语言模型(LLM)在多跳问答中的推理能力仍处于探索阶段,在回答多跳问题时表现不足。此外,目前尚不清楚 LLM 是否遵循理想的推理链以得出正确的最终答案。本文从可解释问答的角度提出了一种生成式问题分解方法(GenDec),该方法通过结合额外提取的证据生成独立且完整的子问题,以增强 LLM 在 RAG 中的推理能力。为了证明 GenDec 的影响力、泛化能力和鲁棒性,我们进行了两项实验:首先将 GenDec 与小型问答系统结合应用于段落检索和问答任务;其次检验了包括 GPT-4 和 GPT-3.5 在内的多种最先进 LLM 结合 GenDec 后的推理能力。我们在 HotpotQA、2WikihopMultiHopQA、MuSiQue 和 PokeMQA 数据集上进行了实验。

关键词

引用

@article{arxiv.2402.11166,
  title  = {GenDec: A robust generative Question-decomposition method for Multi-hop reasoning},
  author = {Jian Wu and Linyi Yang and Yuliang Ji and Wenhao Huang and Börje F. Karlsson and Manabu Okumura},
  journal= {arXiv preprint arXiv:2402.11166},
  year   = {2024}
}