基于句法感知多任务学习的语码转换语言建模
计算与语言
2018-10-05 v2
摘要
文本数据匮乏一直是语码转换语言建模中的主要问题。本文引入基于多任务学习的语言模型，该模型共享语言的句法表示以利用语言信息并解决低资源数据问题。我们的模型联合学习语码转换话语上的语言建模与词性标注。通过这种方式，模型能够识别语码转换点的位置并改进下一词的预测。我们的方法优于基于标准LSTM的语言模型，在SEAME Phase I和Phase II数据集上困惑度分别提升了9.7%和7.4%。
引用
@article{arxiv.1805.12070,
title = {Code-Switching Language Modeling using Syntax-Aware Multi-Task Learning},
author = {Genta Indra Winata and Andrea Madotto and Chien-Sheng Wu and Pascale Fung},
journal= {arXiv preprint arXiv:1805.12070},
year = {2018}
}
备注
Accepted in 3rd Workshop in Computational Approaches in Linguistic Code-switching, ACL 2018 with Supplementary Materials