IndoRobusta:面向多样码混印尼本地语言鲁棒性的研究
计算与语言
2023-11-22 v1
摘要
印尼语 NLP 已取得显著进展。然而,尽管日常对话中许多语言频繁与印尼语混合,对印尼语码混现象的探索仍有限。本工作中,我们探索了印尼语与四种嵌入语言(即英语、巽他语、爪哇语和马来语)的码混,并引入 IndoRobusta,一个用于评估和提升码混鲁棒性的框架。我们的分析表明,预训练语料偏差影响了模型处理印尼语-英语码混的能力优于其他本地语言,尽管其具有更高的语言多样性。
引用
@article{arxiv.2311.12405,
title = {IndoRobusta: Towards Robustness Against Diverse Code-Mixed Indonesian Local Languages},
author = {Muhammad Farid Adilazuarda and Samuel Cahyawijaya and Genta Indra Winata and Pascale Fung and Ayu Purwarianti},
journal= {arXiv preprint arXiv:2311.12405},
year = {2023}
}