在口语命名实体识别系统中利用跨语言迁移学习
计算与语言
2024-09-12 v2
摘要
命名实体识别（NER）近期的进展显著增强了文本分类能力。本文关注口语NER，其明确面向口语文档检索，由于缺少面向口语场景的综合数据集，该领域尚未被广泛研究。此外，低资源情形下跨语言迁移学习的潜力值得进一步探究。在我们的研究中，我们采用流水线（pipeline）和端到端（E2E）两种方法，在荷兰语、英语和德语之间应用迁移学习技术。我们在自定义的伪标注数据集上使用 Wav2Vec2 XLS-R 模型来评估跨语言系统的适应性。我们对不同架构配置的探索评估了这些系统在口语NER中的鲁棒性。结果表明，E2E模型优于流水线模型，尤其在标注资源有限时。此外，从德语到荷兰语的迁移学习相比独立的荷兰语E2E系统性能提升7%，相比荷兰语流水线模型提升4%。我们的发现凸显了跨语言迁移在口语NER中的有效性，并强调需要额外数据收集以改进这些系统。
引用
@article{arxiv.2307.01310,
title = {Leveraging Cross-Lingual Transfer Learning in Spoken Named Entity Recognition Systems},
author = {Moncef Benaicha and David Thulke and M. A. Tuğtekin Turan},
journal= {arXiv preprint arXiv:2307.01310},
year = {2024}
}