将 BigScience 多语言模型适配至未见语言
计算与语言
2022-04-12 v1 人工智能
机器学习
摘要
我们对将新语言（德语和韩语）加入 BigScience 当前支持 13 种语言的 13 亿参数预训练多语言语言模型的不同策略进行了基准测试。我们研究了影响模型语言适配性的因素以及计算成本与预期性能之间的权衡。
引用
@article{arxiv.2204.04873,
title = {Adapting BigScience Multilingual Model to Unseen Languages},
author = {Zheng-Xin Yong and Vassilina Nikoulina},
journal= {arXiv preprint arXiv:2204.04873},
year = {2022}
}