BERT-CoQAC：基于 BERT 的上下文对话式问答
计算与语言
2021-04-26 v1
摘要
作为通过与机器人对话查询特定信息的一种有前景的方式，问答对话系统近来获得了越来越多的研究关注。设计交互式 QA 系统一直是自然语言处理中的一项挑战性任务，并用作评估机器自然语言理解能力的基准。然而，当用户通过多轮提问基于已获信息进一步寻求更多内容时，此类系统常常表现不佳，从而催生了另一种复杂形式，称为对话式问答（CQA）。CQA 系统常被批评在回答问题时未能理解或利用对话的先前上下文。为弥补这一研究空白，本文探讨如何将对话历史整合进神经机器理解系统。一方面，我们引入一个基于公开可用预训练语言模型 BERT 的框架，将历史轮次整合进系统；另一方面，我们提出一种历史选择机制，筛选与当前问题最相关且贡献最大的轮次。实验结果显示，我们的框架在 QuAC 排行榜上与最先进模型性能相当。我们还进行了若干实验，表明使用全部上下文信息会带来不必要的信息与噪声信号，导致模型性能下降的副作用。
引用
@article{arxiv.2104.11394,
title = {BERT-CoQAC: BERT-based Conversational Question Answering in Context},
author = {Munazza Zaib and Dai Hoang Tran and Subhash Sagar and Adnan Mahmood and Wei E. Zhang and Quan Z. Sheng},
journal= {arXiv preprint arXiv:2104.11394},
year = {2021}
}