BayLing：通过交互式翻译为大语言模型桥接跨语言对齐与指令遵循
计算与语言
2023-06-22 v2 人工智能
摘要
大语言模型（LLMs）在语言理解与生成方面已展现出卓越能力。从基础 LLM 进阶到指令遵循 LLM，指令微调在将 LLM 对齐至人类偏好方面发挥着关键作用。然而，现有 LLM 通常聚焦于英语，导致在非英语语言上性能欠佳。为提升非英语语言性能，有必要为基础 LLM 收集特定语言训练数据，并构建特定语言的指令用于指令微调，二者均负担沉重。为最小化人力工作量，我们提出通过交互式翻译任务将语言生成与指令遵循能力从英语迁移至其他语言。我们开发了 BayLing——一个以 LLaMA 为基础 LLM、自动构建交互式翻译指令用于指令微调的指令遵循 LLM。大量评估表明，尽管参数规模仅 130 亿、远小于同类模型，BayLing 仍取得了与 GPT-3.5-turbo 相当的性能。翻译任务实验结果显示，经自动评估，BayLing 的单轮翻译能力达到 GPT-4 的 95%；经人工评估，其交互式翻译能力达到 GPT-3.5-turbo 的 96%。为评估通用任务性能，我们创建了名为 BayLing-80 的多轮指令测试集。BayLing-80 上的实验结果表明，BayLing 性能达到 GPT-3.5-turbo 的 89%。BayLing 在中国高考知识与英语 SAT 知识评估中也表现优异，在众多指令遵循 LLM 中仅次于 GPT-3.5-turbo。BayLing 的演示、主页、代码与模型均已公开。
引用
@article{arxiv.2306.10968,
title = {BayLing: Bridging Cross-lingual Alignment and Instruction Following through Interactive Translation for Large Language Models},
author = {Shaolei Zhang and Qingkai Fang and Zhuocheng Zhang and Zhengrui Ma and Yan Zhou and Langlin Huang and Mengyu Bu and Shangtong Gui and Yunji Chen and Xilin Chen and Yang Feng},
journal= {arXiv preprint arXiv:2306.10968},
year = {2023}
}
备注
Try BayLing's online demo at http://nlp.ict.ac.cn/bayling/demo