基于隐式答案链式提问训练的鲁棒多步问答
计算与语言
2023-12-27 v3 机器学习
摘要
我们训练一个语言模型(LM),通过生成并回答子问题来鲁棒地回答多步问题。我们提出 Chain-of-Questions,一个通过利用人工标注的问题分解语义表示(QDMR)来训练模型逐一生成子问题与子答案的框架。关键的技术挑战在于 QDMR 仅包含子问题而不包含这些子问题的答案,因此我们将子答案视为隐变量,并使用一种新颖的 Hard-EM 与 MAPO 动态混合方法来优化它们。Chain-of-Questions 在 DROP 对比集上以 9.0 F1 大幅优于强神经符号方法,并在 HOTPOTQA 对抗集上以 24.3 F1 优于 GPT-3.5,从而展示了我们框架的有效性与鲁棒性。
引用
@article{arxiv.2305.14901,
title = {Chain-of-Questions Training with Latent Answers for Robust Multistep Question Answering},
author = {Wang Zhu and Jesse Thomason and Robin Jia},
journal= {arXiv preprint arXiv:2305.14901},
year = {2023}
}
备注
Accepted by EMNLP 2023