面向越南语聊天的高效大语言模型微调
计算与语言
2023-09-12 v1 人工智能
摘要
大语言模型（LLMs），如 GPT-4、PaLM 和 LLaMa，已在多种自然语言任务中展现出卓越性能。近期指令微调（instruction tuning）的进展使 LLM 具备遵循用户指令并生成类人回复的能力。然而，训练和部署 LLM 的高成本给学术研究带来挑战。此外，越南语预训练 LLM 和指令微调数据集的可用性有限。为解决这些问题，我们利用来自开源项目的大规模指令跟随数据集，即 Alpaca、GPT4All 和 Chat-Doctor，其涵盖通用领域与特定医疗领域。据我们所知，这些是首批越南语指令数据集。随后，我们通过低秩自适应（Low-Rank Adaptation, LoRA）在两个开源 LLM 上进行参数高效微调：Bloomz（多语言）和 GPTJ-6B（越南语），得到四个模型：Bloomz-Chat、Bloomz-Doctor、GPTJ-Chat、GPTJ-Doctor。最后，我们从样本层面评估方法的有效性，考量其回复的有用性、相关性、准确性及详尽程度。该评估过程利用 GPT-4 作为自动打分机制。尽管采用低成本设置，我们的方法在评估任务上相较原始模型表现出约 20-30% 的提升。
引用
@article{arxiv.2309.04646,
title = {Efficient Finetuning Large Language Models For Vietnamese Chatbot},
author = {Vu-Thuan Doan and Quoc-Truong Truong and Duc-Vu Nguyen and Vinh-Tiep Nguyen and Thuy-Ngan Nguyen Luu},
journal= {arXiv preprint arXiv:2309.04646},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2304.08177, arXiv:2303.16199 by other authors