利用共指消解对多提及进行推理的神经模型
计算与语言
2018-04-18 v1 机器学习
摘要
自然语言处理中的许多问题需要从同一实体的多个提及中聚合信息，而这些提及在文本中可能相距甚远。现有的循环神经网络（RNN）层偏向于短期依赖，因此不适合此类任务。我们提出一种改为偏向于共指依赖的循环层。该层利用从外部系统提取的共指标注来连接属于同一簇的实体提及。将这一层整合进最先进的阅读理解模型，可在三个数据集——Wikihop、LAMBADA 和 bAbi AI 任务——上提升性能，并在训练数据稀缺时带来大幅增益。
引用
@article{arxiv.1804.05922,
title = {Neural Models for Reasoning over Multiple Mentions using Coreference},
author = {Bhuwan Dhingra and Qiao Jin and Zhilin Yang and William W. Cohen and Ruslan Salakhutdinov},
journal= {arXiv preprint arXiv:1804.05922},
year = {2018}
}
备注
NAACL 2018 (Short Paper)