模块化多语言语言模型中被忽视的局限
计算与语言
2023-11-22 v1
摘要
我们揭示了模块化多语言语言模型（MLMs）在涉及未知语言的多语言推理场景中的局限性。现有对模块化 MLMs 的评估排除了语言识别（LID）模块的参与，这掩盖了模块化 MLMs 在真实多语言场景下的表现。本工作中，我们展示了加入 LID 对模块化 MLMs 多语言评估的影响，并针对缩小由 LID 与模块化 MLMs 流水线式方法所导致的性能差距提供了讨论。
关键词
引用
@article{arxiv.2311.12375,
title = {The Obscure Limitation of Modular Multilingual Language Models},
author = {Muhammad Farid Adilazuarda and Samuel Cahyawijaya and Ayu Purwarianti},
journal= {arXiv preprint arXiv:2311.12375},
year = {2023}
}