通过合成问题生成进行一致性训练的对话问答
计算与语言
2024-04-18 v1
摘要
在对话问答（QA）上下文中，高效建模历史信息是处理用户查询的关键组成部分，因为历史上下文在澄清用户问题中起着至关重要的作用。然而，不相关的历史会在推理过程中引入噪声，尤其是对于具有大量历史上下文的问题。在我们新颖的模型无关方法CoTaH（一致性训练增强历史）中，我们使用合成问题增强历史信息，随后采用一致性训练来训练一个同时使用真实和增强历史数据的模型，从而隐式地使推理对不相关历史具有鲁棒性。据我们所知，这是首次使用问题生成作为数据增强形式来建模对话问答设置的研究。通过指出先前研究中普遍存在的一个常见建模错误，我们引入了一个新的基线模型，并将我们的模型性能与之比较，证明了结果的改进，特别是在处理包含大量历史上下文的问题时。源代码可在我们的GitHub页面上找到。
引用
@article{arxiv.2404.11109,
title = {Consistency Training by Synthetic Question Generation for Conversational Question Answering},
author = {Hamed Hematian Hemati and Hamid Beigy},
journal= {arXiv preprint arXiv:2404.11109},
year = {2024}
}