GRN：用于增强卷积神经网络命名实体识别的门控关系网络
计算与语言
2019-07-22 v2
摘要
命名实体识别（NER）的主流方法大多采用复杂的循环神经网络（RNN），例如长短期记忆（LSTM）。然而，RNN 因其循环特性而在计算效率上受限。相比之下，卷积神经网络（CNN）凭借其前馈架构可充分利用 GPU 并行性。然而，很少有人关注使用 CNN 进行 NER，主要由于其难以捕捉序列中的长期上下文信息。本文中，我们提出一种简单而有效的基于 CNN 的 NER 网络，即门控关系网络（GRN），其在捕捉长期上下文方面比普通 CNN 更强。具体而言，在 GRN 中我们首先使用 CNN 探索每个词的局部上下文特征。然后我们对词间关系建模，并将其作为门控将局部上下文特征融合为全局特征以预测标签。无需使用以顺序方式处理句子的循环层，我们的 GRN 允许在整个句子上并行计算。在两个基准 NER 数据集（即 CoNLL2003 和 Ontonotes 5.0）上的实验表明，我们提出的 GRN 在有或无外部知识的情况下均能取得最先进的性能。它在训练和测试上也具有更低的时间成本。我们已将代码公开于 https://github.com/HuiChen24/NER-GRN。
引用
@article{arxiv.1907.05611,
title = {GRN: Gated Relation Network to Enhance Convolutional Neural Network for Named Entity Recognition},
author = {Hui Chen and Zijia Lin and Guiguang Ding and Jianguang Lou and Yusen Zhang and Borje Karlsson},
journal= {arXiv preprint arXiv:1907.05611},
year = {2019}
}
备注
This paper is accepted by AAAI 2019