评估手工特征在序列标注中的效用
计算与语言
2018-08-29 v1
摘要
传统观点认为，对于深度学习模型，手工特征是冗余的，因为它们已能从语料库中自动学习充足的文本表示。在本工作中，我们通过提出一种新方法检验该主张，该方法将手工特征作为新颖混合学习方案的一部分加以利用，并引入特征自编码器损失组件。我们在命名实体识别（NER）任务上进行评估，表明纳入词性、词形和地名词典的手动特征可提升神经 CRF 模型的性能。我们在 CoNLL-2003 英文共享任务上获得了 91.89 的 ，显著优于一组极具竞争力的基线模型。我们还呈现了一项消融研究，显示自编码相较于仅将特征用作输入或输出的重要性，并且进一步表明纳入自编码器组件将训练需求减少至 60%，同时保持相同的预测精度。
引用
@article{arxiv.1808.09075,
title = {Evaluating the Utility of Hand-crafted Features in Sequence Labelling},
author = {Minghao Wu and Fei Liu and Trevor Cohn},
journal= {arXiv preprint arXiv:1808.09075},
year = {2018}
}
备注
Accepted to EMNLP 2018 (camera-ready)