Baize：基于自对话数据参数高效微调的开源聊天模型
计算与语言
2023-12-05 v4 人工智能
摘要
ChatGPT 等聊天模型已展现出令人印象深刻的能力，并迅速被应用于众多领域。然而，这些模型仅可通过受限 API 访问，为该领域的新研究与进展创造了障碍。我们提出一种流水线，通过利用 ChatGPT 与自身对话来自动生成高质量多轮聊天语料。随后，我们采用参数高效微调来增强开源大语言模型 LLaMA。所得模型名为 Baize，在多轮对话中展现出良好性能，并带有将潜在风险最小化的护栏。此外，我们提出一种称为带反馈的自蒸馏（Self-Distill with Feedback）的新技术，以利用 ChatGPT 的反馈进一步提升 Baize 模型的性能。Baize 模型与数据仅出于研究目的发布于 https://github.com/project-baize/baize-chatbot。在线演示亦可在 https://huggingface.co/spaces/project-baize/chat-with-baize 获取。
引用
@article{arxiv.2304.01196,
title = {Baize: An Open-Source Chat Model with Parameter-Efficient Tuning on Self-Chat Data},
author = {Canwen Xu and Daya Guo and Nan Duan and Julian McAuley},
journal= {arXiv preprint arXiv:2304.01196},
year = {2023}
}
备注
Baize v2; EMNLP 2023