基于最坏情况感知自动课程学习的零样本依存句法分析
计算与语言
2022-03-17 v1
摘要
诸如 mBERT 与 XLM-RoBERTa 的大型多语言预训练语言模型已被发现对句法分析模型的跨语言迁移出奇有效(Wu and Dredze 2019),但仅限相关语言之间。然而,在分析真正低资源语言时,源语言与训练语言很少相关。为弥补这一差距,我们采用多任务学习中的一种方法,其依赖自动课程学习,动态优化对离群语言的句法分析性能。我们表明,在零样本设定下,该方法显著优于均匀采样与按规模比例采样。
引用
@article{arxiv.2203.08555,
title = {Zero-Shot Dependency Parsing with Worst-Case Aware Automated Curriculum Learning},
author = {Miryam de Lhoneux and Sheng Zhang and Anders Søgaard},
journal= {arXiv preprint arXiv:2203.08555},
year = {2022}
}
备注
ACL 2022