用于命名实体识别的深度主动学习
计算与语言
2018-02-06 v3
摘要
深度学习在许多自然语言处理任务（包括命名实体识别(NER)）上已取得最先进的性能。然而，这通常需要大量标注数据。在这项工作中，我们证明当深度学习与主动学习结合时，所需的标注训练数据量可大幅减少。虽然主动学习样本效率高，但由于需要迭代重训练，其计算开销可能很大。为加速此过程，我们引入了一种轻量级NER架构，即CNN-CNN-LSTM模型，由卷积字符与词编码器以及一个长短期记忆(LSTM)标签解码器组成。该模型在标准数据集上达到了接近最先进的性能，同时计算上比性能最好的模型高效得多。我们在训练过程中执行增量主动学习，仅用原始训练数据的25%就能几乎匹配最先进的性能。
引用
@article{arxiv.1707.05928,
title = {Deep Active Learning for Named Entity Recognition},
author = {Yanyao Shen and Hyokun Yun and Zachary C. Lipton and Yakov Kronrod and Animashree Anandkumar},
journal= {arXiv preprint arXiv:1707.05928},
year = {2018}
}