用于命名实体识别的自注意力地名词典嵌入
计算与语言
2020-04-21 v2
摘要
近期将外部知识注入命名实体识别(NER)神经模型的尝试结果喜忧参半。本工作中,我们提出 GazSelfAttn,一种新颖的地名词典嵌入方法,其利用自注意力与匹配跨度编码来构建增强的地名词典嵌入。此外,我们展示了如何基于开源 Wikidata 知识库构建地名词典资源。在 CoNLL-03 与 Ontonotes 5 数据集上的评估显示,相较基线模型 F1 分别从 92.34 提升至 92.86、从 89.11 提升至 89.32,取得了与大型 SOTA 模型相当的性能。
引用
@article{arxiv.2004.04060,
title = {Self-Attention Gazetteer Embeddings for Named-Entity Recognition},
author = {Stanislav Peshterliev and Christophe Dupuy and Imre Kiss},
journal= {arXiv preprint arXiv:2004.04060},
year = {2020}
}
备注
Preprint