用于阅读理解与问答的多粒度层次注意力融合网络
计算与语言
2019-08-14 v1
摘要
本文描述了一种用于阅读理解式问答的新型层次注意力网络，其旨在为给定叙事段落回答问题。在所提方法中，注意力和融合在问题与段落之间不同粒度的层次上横向和纵向进行。具体而言，它首先使用细粒度语言嵌入对问题和段落进行编码，以更好地在语义层面捕获各自的表示。然后它提出一种多粒度融合方法，从全局和注意力表示中充分融合信息。最后，它引入一种层次注意力网络，通过多级软对齐逐步聚焦于答案跨度。在大规模 SQuAD 和 TriviaQA 数据集上的大量实验验证了所提方法的有效性。在撰写本文时（2018年1月12日），我们的模型在 SQuAD 排行榜上于单模型和集成模型均取得第一位置。我们还在 TriviaQA、AddSent 和 AddOne-Sent 数据集上取得了最先进的（SOTA）结果。
引用
@article{arxiv.1811.11934,
title = {Multi-granularity hierarchical attention fusion networks for reading comprehension and question answering},
author = {Wei Wang and Ming Yan and Chen Wu},
journal= {arXiv preprint arXiv:1811.11934},
year = {2019}
}
备注
Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) 1705-1714