面向命名实体识别的英雄-帮派神经模型

命名实体识别（NER）是自然语言处理（NLP）中一项基础且重要的任务，旨在从自由文本中识别命名实体（NEs）。近年来，由于 Transformer 模型中应用的多头注意力机制能够有效捕获更长的上下文信息，基于 Transformer 的模型已成为主流方法，并在该任务中取得了显著性能。遗憾的是，尽管这些模型能够捕获有效的全局上下文信息，它们在局部特征和位置信息提取方面仍存在局限，而这对 NER 至关重要。本文为克服该局限，提出一种新颖的英雄-帮派神经结构（HGN），包含 Hero 与 Gang 模块，以利用全局与局部信息来促进 NER。具体而言，Hero 模块由基于 Transformer 的编码器组成，以保持自注意力机制的优势；Gang 模块利用多窗口循环模块，在 Hero 模块的引导下提取局部特征与位置信息。随后，所提出的多窗口注意力有效结合全局信息与多局部特征以预测实体标签。在多个基准数据集上的实验结果证明了我们提出模型的有效性。