融合历史答案嵌入的 BERT 用于对话式问答
信息检索
2019-10-29 v2
摘要
对话式搜索是信息检索领域一个新兴话题。多轮对话式搜索的主要挑战之一是建模对话历史以回答当前问题。现有方法要么将历史轮次前置到当前问题,要么使用复杂的注意力机制来建模历史。我们提出了一种概念上简单但高度有效的方法,称为历史答案嵌入。它使得对话历史能够无缝集成到基于 BERT(Bidirectional Encoder Representations from Transformers,基于变换器的双向编码器表示)构建的对话式问答(ConvQA)模型中。我们首先阐释我们的观点,即 ConvQA 是对话式搜索的一种简化但具体的设定,然后我们提供一个解决 ConvQA 的通用框架。我们进一步在该框架下证明了我们方法的有效性。最后,我们分析了不同设定下不同数量历史轮次的影响,以期为 ConvQA 中的对话历史建模提供新的见解。
引用
@article{arxiv.1905.05412,
title = {BERT with History Answer Embedding for Conversational Question Answering},
author = {Chen Qu and Liu Yang and Minghui Qiu and W. Bruce Croft and Yongfeng Zhang and Mohit Iyyer},
journal= {arXiv preprint arXiv:1905.05412},
year = {2019}
}
备注
Accepted to SIGIR 2019 as a short paper