中文

SDNet:基于上下文注意力的深度网络用于对话式问答

计算与语言 2019-01-04 v5

摘要

对话式问答(CQA)是一项新颖的问答任务,需要理解对话上下文。与传统的单轮机器阅读理解(MRC)任务不同,CQA包含篇章理解、共指消解和上下文理解。在本文中,我们提出了一种创新的基于上下文注意力的深度神经网络SDNet,以将上下文融入传统的MRC模型。我们的模型利用交互注意力和自注意力来理解对话上下文并从篇章中提取相关信息。此外,我们展示了一种将最新的BERT上下文模型整合进来的新方法。实证结果表明了我们模型的有效性,它在CoQA排行榜上确立了新的SOTA结果,以1.6%的F1优于先前最佳模型。我们的集成模型进一步将结果提升了2.7%的F1。

关键词

引用

@article{arxiv.1812.03593,
  title  = {SDNet: Contextualized Attention-based Deep Network for Conversational Question Answering},
  author = {Chenguang Zhu and Michael Zeng and Xuedong Huang},
  journal= {arXiv preprint arXiv:1812.03593},
  year   = {2019}
}

备注

8 pages, 2 figures