面向问答中不可答预测的关联模块
计算与语言
2019-10-25 v1 人工智能
机器学习
摘要
近年来，由于具有挑战性的阅读理解数据集不断增多，机器阅读理解（MRC）吸引了大量的研究关注。在本文中，我们旨在提升 MRC 模型判断给定上下文中问题是否有答案的能力（例如最近提出的 SQuAD 2.0 任务）。我们的方案是一个可适配于任意 MRC 模型的关联模块。该关联模块由语义提取与关系信息两部分组成。我们首先通过多头自注意力池化从问题和上下文中提取高层语义作为对象。这些语义对象随后被传入一个关系网络，该网络为句子中每一对对象生成关系分数。这些分数被用于判断问题是否不可答。我们在 SQuAD 2.0 数据集上以 BiDAF 和 BERT 模型作为基线阅读器测试了该关联模块。我们在 BiDAF 阅读器上获得了 1.8% 的 F1 提升，在 BERT base 模型上获得了 1.0% 的提升。这些结果表明了我们的关联模块在 MRC 上的有效性。
引用
@article{arxiv.1910.10843,
title = {Relation Module for Non-answerable Prediction on Question Answering},
author = {Kevin Huang and Yun Tang and Jing Huang and Xiaodong He and Bowen Zhou},
journal= {arXiv preprint arXiv:1910.10843},
year = {2019}
}