中文

基于强化改写生成的对话问答模型鲁棒训练

计算与语言 2024-02-20 v3 人工智能 信息检索

摘要

面向知识图(KGs)的对话问答(ConvQA)模型通常在黄金问答对基准上进行训练和测试。这意味着训练仅限于各数据集中出现的表层形式,而评估仅在一小组留出问题上进行。通过我们提出的框架 REIGN,我们采取若干步骤来补救这一受限的学习设定。首先,我们系统性地生成训练问题的改写形式,以增强模型对表层形式变化的鲁棒性。鉴于此类问题的不完整性,这是一个尤其具有挑战性的问题。其次,我们利用深度强化学习,仅向 ConvQA 模型提供那些有助于提升其回答质量的改写形式,以引导模型获得更高性能。第三,我们展示了在一个基准上训练主要模型组件并将其零样本应用于另一个基准的可行性。最后,为对训练模型的鲁棒性进行严格评估,我们使用并发布了通过提示 GPT 为基准测试集生成的大量多样化改写形式(规模增加 20 倍)。我们的结果表明,通过改写进行鲁棒训练的 ConvQA 模型显著优于仅从黄金问答对进行标准训练的模型。

关键词

引用

@article{arxiv.2310.13505,
  title  = {Robust Training for Conversational Question Answering Models with Reinforced Reformulation Generation},
  author = {Magdalena Kaiser and Rishiraj Saha Roy and Gerhard Weikum},
  journal= {arXiv preprint arXiv:2310.13505},
  year   = {2024}
}

备注

WSDM 2024 Research Paper, 11 pages