大语言模型指令微调中的零样本跨语言迁移
计算与语言
2024-04-23 v2 人工智能
摘要
指令微调 (Instruction tuning, IT) 被广泛用于教导预训练大语言模型 (Large language models, LLMs) 遵循任意指令，但在多语言设置下研究不足。在本文中，我们对 IT 中的零样本跨语言迁移进行了系统研究，即当 LLM 仅在英语数据上进行指令微调，随后在其他语言的用户提示下进行测试时的情形。我们主张评估多语言指令遵循中模型响应的各个方面的重要性，并调查不同模型配置选择的影响。我们发现，即使在模型训练的所有阶段都以英语为中心，只要在超参数调优中考虑到多语言性并使用足够大的 IT 数据，跨语言迁移也能在 IT 中成功发生。经过英语训练的 LLM 能够生成其他语言的正确语言、全面且有帮助的响应，但事实性较低，且偶尔会出现流畅性错误。
引用
@article{arxiv.2402.14778,
title = {Zero-shot cross-lingual transfer in instruction tuning of large language models},
author = {Nadezhda Chirkova and Vassilina Nikoulina},
journal= {arXiv preprint arXiv:2402.14778},
year = {2024}
}