基于自注意力机制的 BiGRU 与胶囊网络用于命名实体识别
计算与语言
2020-02-04 v1
摘要
命名实体识别（NER）是自然语言处理（NLP）的任务之一。针对传统字符表示能力弱以及神经网络方法无法捕获重要序列信息的问题，提出一种基于自注意力的双向门控循环单元（BiGRU）与胶囊网络（CapsNet）用于 NER。该模型通过 Transformer 双向编码器表示（BERT）预训练模型生成字符向量。BiGRU 用于捕获序列上下文特征，并提出自注意力机制对 BiGRU 隐藏层捕获的信息赋予不同关注。最后，我们提出使用 CapsNet 进行实体识别。我们在两个数据集上评估了模型的识别性能。实验结果表明，该模型在不依赖外部词典信息的情况下具有更好的性能。
引用
@article{arxiv.2002.00735,
title = {Self-attention-based BiGRU and capsule network for named entity recognition},
author = {Jianfeng Deng and Lianglun Cheng and Zhuowei Wang},
journal= {arXiv preprint arXiv:2002.00735},
year = {2020}
}