SFE-AI 在 SemEval-2022 任务 11 中的工作：基于大型预训练语言模型的低资源命名实体识别
计算与语言
2022-05-31 v1
摘要
大规模预训练模型已广泛应用于命名实体识别（NER）任务。然而，通过参数平均或投票进行的模型集成无法充分发挥不同模型的差异化优势，尤其是在开放域中。本文描述了我们在 SemEval 2022 任务 11（MultiCoNER）中的 NER 系统。我们提出了一种有效的系统，通过 Transformer 层自适应地集成预训练语言模型。通过对不同输入为每个模型分配不同权重，我们采用 Transformer 层有效整合了多样化模型的优势。实验结果表明，我们的方法在波斯语和荷兰语上取得了优越的性能。
引用
@article{arxiv.2205.14660,
title = {SFE-AI at SemEval-2022 Task 11: Low-Resource Named Entity Recognition using Large Pre-trained Language Models},
author = {Changyu Hou and Jun Wang and Yixuan Qiao and Peng Jiang and Peng Gao and Guotong Xie and Qizhi Lin and Xiaopeng Wang and Xiandi Jiang and Benqi Wang and Qifeng Xiao},
journal= {arXiv preprint arXiv:2205.14660},
year = {2022}
}