一种面向问答的聚焦问题多因子注意力网络

近期提出的用于问答（QA）的神经网络模型主要聚焦于捕捉篇章-问题关系。然而，它们将分布于多个句子中的相关事实建立联系的能力极弱，而这对于实现更深层次理解（如执行多句推理、共指消解等）至关重要。它们也未显式地聚焦于问题和答案类型，而后者在 QA 中常起关键作用。本文中，我们提出一种新颖的端到端聚焦问题多因子注意力网络用于答案抽取。基于张量变换的多因子注意力编码能够聚合有意义的事实，即使它们位于多个句子中。为隐式推断答案类型，我们还提出一种最大注意力问题聚合机制，基于问题中的重要词来编码问题向量。在预测阶段，我们将首个 wh-词及其紧邻后续词的序列级编码作为问题类型信息的额外来源。我们提出的模型在三个大规模且具有挑战性的 QA 数据集（即 NewsQA、TriviaQA 和 SearchQA）上相比最佳现有 SOTA 结果取得了显著提升。