中文

双赢合作:为命名实体识别捆绑序列与跨度模型

计算与语言 2022-07-19 v2

摘要

对于命名实体识别(NER),基于序列标注和基于跨度的范式截然不同。先前的研究表明这两种范式具有明确的互补优势,但据我们所知,很少有模型尝试在单一NER模型中利用这些优势。在我们之前的工作中,我们提出了一种称为捆绑学习(BL)的范式来解决上述问题。BL范式将两种NER范式捆绑在一起,使NER模型能够通过加权求和各范式的训练损失来联合调优其参数。然而,三个关键问题仍未解决:BL何时生效?BL为何生效?BL能否增强现有的最先进(SOTA)NER模型?为解决前两个问题,我们实现了三个NER模型,包括一个基于序列标注的模型——SeqNER、一个基于跨度的NER模型——SpanNER,以及将SeqNER和SpanNER捆绑在一起的BL-NER。基于来自五个领域的十一个NER数据集上的实验结果,我们就这两个问题得出两点结论。随后我们将BL应用于五个现有SOTA NER模型以探究第三个问题,这些模型包含三个基于序列标注的模型和两个基于跨度的模型。实验结果表明BL持续增强它们的性能,表明通过将BL整合进当前SOTA系统有可能构建一个新的SOTA NER系统。此外,我们发现BL减少了实体边界和类型预测错误。另外,我们比较了两种常用的标注标记方法以及三种跨度语义表示。

关键词

引用

@article{arxiv.2207.03300,
  title  = {Win-Win Cooperation: Bundling Sequence and Span Models for Named Entity Recognition},
  author = {Bin Ji and Shasha Li and Jie Yu and Jun Ma and Huijun Liu},
  journal= {arXiv preprint arXiv:2207.03300},
  year   = {2022}
}