ElimiNet:一种用于多选阅读理解中排除选项的模型
计算与语言
2019-04-05 v1
摘要
多选阅读理解任务要求人类(或机器)阅读给定的段落、问题对并从 n 个给定选项中选择一个。该任务当前的 SOTA 模型首先计算段落的问句感知表示,然后选择与表示该表示相似度最高的选项。然而,人类执行此任务时不仅关注选项选择,而是使用排除与选择的结合。具体而言,人类会先尝试排除最不相关的选项,然后根据这一新信息重新阅读段落(并可能忽略对应于被排除选项的部分)。此过程可重复多次,直到读者最终准备好选择正确选项。我们提出 ElimiNet,一种基于神经网络的模型,试图模仿这一过程。具体而言,它包含门控机制,根据段落、问题对判断某选项是否可被排除,若可排除则试图使段落表示与该被排除选项正交(类似于忽略段落中对应于被排除选项的部分)。该模型进行多轮部分排除以精炼段落表示,最后使用选择模块挑选最佳选项。我们在最近发布的大规模 RACE 数据集上评估模型,表明其在数据集中 种问题类型里的 7 种上优于当前 SOTA 模型。此外,我们将基于排除-选择的方法与基于选择的方法集成,相较该数据集上最佳报告性能取得了 3.1% 的提升。
引用
@article{arxiv.1904.02651,
title = {ElimiNet: A Model for Eliminating Options for Reading Comprehension with Multiple Choice Questions},
author = {Soham Parikh and Ananya B. Sai and Preksha Nema and Mitesh M. Khapra},
journal= {arXiv preprint arXiv:1904.02651},
year = {2019}
}
备注
IJCAI-18