无大写时的命名实体识别与词性标注
计算与语言
2019-09-04 v2
摘要
对于使用大写字母的语言而言，大小写是命名实体识别（NER）和词性（POS）标注这些基础 NLP 任务的重要信号。事实上，该信号如此之强，以至于在常见的全小写场景中（如含噪声的网络文本或机器翻译输出），这些任务的模型性能会急剧下降。在本工作中，我们对该问题的解决方案进行了系统分析，仅通过小写化和真大写化方法修改训练或测试数据的大小写。尽管先前工作和第一印象可能建议训练一个无大小写模型，或在测试时使用真大写化器，我们表明最有效的策略是将有大小写和小写化的训练数据相拼接，从而产生一个在大小写与无大小写文本上均具高性能的单一模型。如我们的实验所示，该结果在各项任务和输入表示上均成立。最后，我们展示所提方案在含噪声的域外 Twitter 数据的提及检测上带来了 8% 的 F1 提升。
引用
@article{arxiv.1903.11222,
title = {ner and pos when nothing is capitalized},
author = {Stephen Mayhew and Tatiana Tsygankova and Dan Roth},
journal= {arXiv preprint arXiv:1903.11222},
year = {2019}
}
备注
Accepted to EMNLP2019