低资源非洲命名实体识别中的跨语言迁移分析
计算与语言
2023-09-12 v1
摘要
迁移学习为几乎所有 NLP 任务带来了巨大的性能提升，同时使下游模型更易且更快地训练。这也被扩展到低资源语言，并取得了一定成功。我们从命名实体识别任务的角度，研究了十种低资源语言之间的跨语言迁移学习特性。我们具体考察了自适应微调的程度以及迁移语言的选择如何影响零样本迁移性能。我们发现，在单一语言上表现良好的模型往往以泛化到其他语言为代价，而具有最佳其他语言泛化能力的模型在单语言性能上有所受损。此外，源数据集与目标数据集之间的数据重叠程度比语言间的地理或基因距离更能预测迁移性能。
引用
@article{arxiv.2309.05311,
title = {Analysing Cross-Lingual Transfer in Low-Resourced African Named Entity Recognition},
author = {Michael Beukman and Manuel Fokam},
journal= {arXiv preprint arXiv:2309.05311},
year = {2023}
}
备注
Accepted to IJCNLP-AACL 2023