面向机器阅读理解的多视角上下文匹配
计算与语言
2016-12-14 v1
摘要
以往的机器阅读理解（MC）数据集要么规模太小，无法训练端到端的深度学习模型，要么难度不够，不足以评估当前 MC 技术的能力。新发布的 SQuAD 数据集缓解了这些局限，使我们有机会开发更贴近现实的 MC 模型。基于该数据集，我们提出一种多视角上下文匹配（MPCM）模型，这是一个端到端系统，可直接预测段落中答案的起始和结束位置。我们的模型首先通过乘以针对问题计算出的相关性权重，调整段落中的每个词嵌入向量。然后，我们使用双向 LSTM 对问题和加权后的段落进行编码。对于段落中的每个位置，我们的模型从多个视角将该位置的上下文与编码后的问题进行匹配，并生成一个匹配向量。得到这些匹配向量后，我们使用另一个双向 LSTM 聚合所有信息，并预测起始和结束位置。在 SQuAD 测试集上的实验结果表明，我们的模型在排行榜上取得了有竞争力的结果。
引用
@article{arxiv.1612.04211,
title = {Multi-Perspective Context Matching for Machine Comprehension},
author = {Zhiguo Wang and Haitao Mi and Wael Hamza and Radu Florian},
journal= {arXiv preprint arXiv:1612.04211},
year = {2016}
}
备注
8