论克里奥尔语的语言模型

尼日利亚皮钦英语与海地克里奥尔语等克里奥尔语资源匮乏，且在NLP文献中很大程度上被忽视。克里奥尔语通常源于一门外语与多种本地语言的融合，而哪些语法与词汇特征被转移到克里奥尔语中是一个复杂的过程。尽管克里奥尔语总体稳定，某些特征在某些人口群体或某些语言情境中的凸显度可能更强。本文做出若干贡献：我们收集现有语料库并发布海地克里奥尔语、尼日利亚皮钦英语与新加坡口语英语的模型。我们在内在与外在任务上对这些模型进行评估。受上述文献启发，我们将标准语言模型与分布鲁棒语言模型进行比较，并发现——有些令人惊讶地——标准语言模型优于分布鲁棒语言模型。我们探究这是否为过参数化或相对分布稳定性的效应，发现该差异在无非参数化时依然存在，且漂移有限，从而证实了克里奥尔语的相对稳定性。