爪哇语依存句法分析的跨语言迁移学习
计算与语言
2024-01-23 v1
摘要
虽然结构学习在高资源语言中取得了显著性能,但由于标注数据稀缺,低资源语言的情况则有所不同。本研究聚焦于评估迁移学习在增强爪哇语依存句法分析方面的有效性,爪哇语有8000万使用者,但在自然语言处理中代表性有限。我们利用了包含100多种语言(包括爪哇语)依存树库的通用依存关系数据集。我们提出了两种训练模型的学习策略:迁移学习(TL)和分层迁移学习(HTL)。TL仅使用一种源语言来预训练模型,而HTL方法在学习过程中使用一种源语言和一种中间语言。结果表明,我们的最佳模型使用了HTL方法,与基线模型相比,其在UAS和LAS评估中的性能均提升了10%。
引用
@article{arxiv.2401.12072,
title = {Cross-lingual Transfer Learning for Javanese Dependency Parsing},
author = {Fadli Aulawi Al Ghiffari and Ika Alfina and Kurniawati Azizah},
journal= {arXiv preprint arXiv:2401.12072},
year = {2024}
}
备注
Accepted at IJCNLP-AACL 2023 SRW