利用全局上下文信息用于文档级命名实体识别

大多数现有的命名实体识别（NER）方法基于序列标注模型，侧重于捕捉局部上下文依赖。然而，以单句作为输入的方式阻碍了非序列全局上下文的建模，而当局部上下文信息有限或模糊时，全局上下文尤为有用。为此，我们提出一种称为全局上下文增强的文档级NER（GCDoc）的模型，从词和句子两个层面利用全局上下文信息。在词级别，构建文档图以建模词之间更大范围的依赖关系，然后通过图神经网络（GNN）为 each 词获得丰富的上下文表示。为避免噪声信息的干扰，我们进一步提出两种策略。首先应用认知不确定性理论找出表示可靠性较低的词元，从而帮助剪枝文档图。然后提出一种选择性辅助分类器，以有效学习文档图中边的权重并降低噪声邻居节点的重要性。在句子级别，为适当建模单句之外的更宽上下文，我们采用跨句模块，该模块编码相邻句子并通过注意力和门控机制将其与当前句子表示融合。在两个基准NER数据集（CoNLL 2003和Ontonotes 5.0英文数据集）上的大量实验证明了我们提出模型的有效性。我们的模型在CoNLL 2003数据集上达到92.22的F1分数（使用BERT为93.40），在Ontonotes 5.0数据集上达到88.32（使用BERT为90.49），取得了新的SOTA性能。