基于跨语言上下文表示的小资源依存句法分析
计算与语言
2019-09-20 v1
摘要
尽管依存句法分析取得了进展，小树库语言仍具挑战性。我们评估了近期多语言上下文词表示（CWRs）的方法，并通过在解析器内部共享语言间参数，比较它们从大树库语言向小树库或不存在树库语言的跨语言迁移效果。我们在模拟和真实低资源场景下以多种语言进行实验，表明多语言 CWRs 极大促进了低资源依存句法分析，即便没有词典或平行文本等跨语言监督。此外，我们考察所学语言模型的非上下文部分（称为“去上下文探针”），以证明多语语言模型比对齐的单语语言模型更好地编码跨语言词汇对应。该分析进一步证明多语训练是跨语言迁移的有效方法。
引用
@article{arxiv.1909.08744,
title = {Low-Resource Parsing with Crosslingual Contextualized Representations},
author = {Phoebe Mulcaire and Jungo Kasai and Noah A. Smith},
journal= {arXiv preprint arXiv:1909.08744},
year = {2019}
}
备注
CoNLL 2019