用于计算高效命名实体识别标注器的约束解码
计算与语言
2020-10-12 v1
摘要
当前命名实体识别（NER）的最优模型是以条件随机场（CRF）作为最后一层的神经模型。实体被表示为具有特殊结构的逐 token 标签，以便将其解码为 span。当前工作回避了关于 span 编码方案如何运作的先验知识，依赖 CRF 学习哪些转移是非法的、哪些不是，以促进全局一致性。我们发现，通过约束输出以抑制非法转移，我们可以用交叉熵损失训练标注器，其速度是 CRF 的两倍，且 F1 差异在统计上不显著，从而有效消除了对 CRF 的需求。我们分析了标签共现的动态以解释这些约束在何时最为有效，并提供了我们的标注器在 PyTorch 和 TensorFlow 中的开源实现。
引用
@article{arxiv.2010.04362,
title = {Constrained Decoding for Computationally Efficient Named Entity Recognition Taggers},
author = {Brian Lester and Daniel Pressel and Amy Hemmeter and Sagnik Ray Choudhury and Srinivas Bangalore},
journal= {arXiv preprint arXiv:2010.04362},
year = {2020}
}
备注
Findings of EMNLP 2020