面向历史德语的鲁棒命名实体识别
计算与语言
2019-06-19 v1
摘要
近期使用深度神经网络的语言建模进展表明,这些模型学习到的表示随网络深度从形态到共指等语义关系而变化。我们将预训练语言模型应用于低资源的历史德语命名实体识别。我们通过一系列实验表明,基于字符的预训练语言模型在面对低资源数据集时不会遇到困难。我们的预训练基于字符的语言模型相较经典的基于CRF的方法以及先前基于Bi-LSTM的工作,将F1分数性能提升了高达6%。我们的预训练语言模型和NER模型已在 https://github.com/stefan-it/historic-ner 公开提供。
引用
@article{arxiv.1906.07592,
title = {Towards Robust Named Entity Recognition for Historic German},
author = {Stefan Schweter and Johannes Baiter},
journal= {arXiv preprint arXiv:1906.07592},
year = {2019}
}
备注
8 pages, 5 figures, accepted at the 4th Workshop on Representation Learning for NLP (RepL4NLP), held in conjunction with ACL 2019