Global Pointer:一种新颖高效的基于片段的命名实体识别方法
计算与语言
2022-08-08 v1 人工智能
机器学习
摘要
命名实体识别(NER)任务旨在从文本中识别出属于预定义语义类型(如人物、地点、组织等)的实体。针对扁平实体 NER 的最优方案通常难以捕捉底层文本中的细粒度语义信息。现有的基于片段的方法克服了这一局限,但计算时间仍令人担忧。本工作中,我们提出一种新颖的基于片段的 NER 框架,即 Global Pointer(GP),其通过乘性注意力机制利用相对位置。最终目标是实现一种全局视角,综合考虑起始与结束位置来预测实体。为此,我们设计两个模块来识别给定实体的首端与尾端,以消除训练与推理过程之间的不一致性。此外,我们引入一种新颖的分类损失函数以解决标签不平衡问题。在参数方面,我们提出一种简单而有效的近似方法来减少训练参数。我们在多个基准数据集上对 GP 进行了广泛评估。大量实验表明 GP 优于现有方案。而且,实验结果显示所引入的损失函数相较于 softmax 与熵替代方案具有更优效能。
引用
@article{arxiv.2208.03054,
title = {Global Pointer: Novel Efficient Span-based Approach for Named Entity Recognition},
author = {Jianlin Su and Ahmed Murtadha and Shengfeng Pan and Jing Hou and Jun Sun and Wanwei Huang and Bo Wen and Yunfeng Liu},
journal= {arXiv preprint arXiv:2208.03054},
year = {2022}
}