超越英语的 LLM：利用跨语言反馈扩展 LLM 的多语言能力
计算与语言
2024-06-05 v1
摘要
为了将大型语言模型（LLM）普及到大多数自然语言，必须使这些模型具备理解和生成多种语言文本的能力，尤其是低资源语言。尽管最近的多语言 LLM 在这些能力上展现出了卓越的性能，但由于缺乏低资源语言的训练数据，这些 LLM 仍然只支持有限数量的人类语言。此外，这些 LLM 尚未与下游任务中的人类偏好对齐，而这对于 LLM 在英语上的成功至关重要。在本文中，我们介绍了 xLLaMA-100 和 xBLOOM-100（统称 xLLMs-100），将 LLaMA 和 BLOOM 的多语言能力扩展至 100 种语言。为此，我们构建了两个数据集：一个包含 100 种语言的多语言指令数据集，代表了迄今为止最大的语言覆盖范围；以及一个涵盖 30 种语言的跨语言人类反馈数据集。我们在构建的指令数据上进行多语言指令微调，并利用 DPO 算法在跨语言人类反馈数据集上进一步将 LLM 与人类反馈对齐。我们在五个多语言基准上评估了 xLLMs-100 的多语言理解和生成能力。实验结果表明，xLLMs-100 在各项基准测试中均以显著优势优于同类模型，定义了支持 100 种语言的新的多语言 LLM 的 state-of-the-art。
引用
@article{arxiv.2406.01771,
title = {LLMs Beyond English: Scaling the Multilingual Capability of LLMs with Cross-Lingual Feedback},
author = {Wen Lai and Mohsen Mesgar and Alexander Fraser},
journal= {arXiv preprint arXiv:2406.01771},
year = {2024}
}
备注
Accepted to Findings of ACL 2024. The code, datasets, and models are publicly available at https://github.com/boschresearch/ACL24-MLLM