基于序列与树结构 LSTM 的端到端关系抽取
计算与语言
2016-06-09 v3 机器学习
摘要
我们提出了一种新颖的端到端神经模型，用于抽取实体及其之间的关系。我们基于循环神经网络的模型通过将双向树结构 LSTM-RNN 堆叠在双向序列 LSTM-RNN 之上，捕获了词序列与依存树子结构信息。这使得我们的模型能够在单一模型中以共享参数联合表示实体与关系。我们进一步通过实体预训练与 scheduled sampling，在训练过程中鼓励实体检测并在关系抽取中利用实体信息。我们的模型在端到端关系抽取上超越了最先进的基于特征的模型，在 ACE2005 和 ACE2004 上分别实现了 F1 分数 12.1% 和 5.7% 的相对错误率降低。我们还展示了我们基于 LSTM-RNN 的模型在名义关系分类（SemEval-2010 Task 8）上优于最先进的基于 CNN 的模型（在 F1 分数上）。最后，我们对若干模型组件给出了广泛的消融分析。
引用
@article{arxiv.1601.00770,
title = {End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures},
author = {Makoto Miwa and Mohit Bansal},
journal= {arXiv preprint arXiv:1601.00770},
year = {2016}
}
备注
Accepted for publication at the Association for Computational Linguistics (ACL), 2016. 13 pages, 1 figure, 6 tables