中文

MaP:一种基于矩阵的预测方法以改进机器阅读理解中的跨度抽取

计算与语言 2020-10-01 v1

摘要

跨度抽取是机器阅读理解中的一个基本问题。大多数现有算法通过生成两个概率向量来预测给定相应上下文中答案跨度的起止位置。在本文中,我们提出一种将概率向量扩展为概率矩阵的新方法。这样的矩阵可覆盖更多起止位置对。确切地说,对每个可能的起始索引,该方法始终生成一个结束概率向量。此外,我们提出一种基于采样的训练策略,以解决矩阵训练阶段的计算代价与内存问题。我们在 SQuAD 1.1 和另外三个问答基准上评估了我们的方法。利用最具竞争力的模型 BERT 和 BiDAF 作为主干,我们提出的方法在所有数据集上均取得一致提升,证明了方法的有效性。

关键词

引用

@article{arxiv.2009.14348,
  title  = {MaP: A Matrix-based Prediction Approach to Improve Span Extraction in Machine Reading Comprehension},
  author = {Huaishao Luo and Yu Shi and Ming Gong and Linjun Shou and Tianrui Li},
  journal= {arXiv preprint arXiv:2009.14348},
  year   = {2020}
}

备注

to appear at AACL-IJCNLP 2020