Chinese-Vicuna：一个中文指令跟随型 Llama 基模型
计算与语言
2025-04-18 v1
摘要
Chinese-Vicuna 是一个开源、资源高效的语言模型，通过对 Meta 的 LLaMA 架构进行 Low-Rank Adaptation（LoRA）微调，旨在弥合中文指令跟随能力的差距。针对低资源环境，支持在消费级 GPU（如 RTX-2080Ti 可部署 7B 模型）上进行成本效益的部署，并支持医疗、法律等领域的领域特定适应。通过集成混合数据集（BELLE 和 Guanaco）和 4 位量化（QLoRA），模型在翻译、代码生成和领域特定 Q&A 等任务中实现了与竞争模型的性能。项目提供了完整的工具包，包括模型转换、CPU 推理和多轮对话界面，强调为研究人员和开发人员的可访问性。评估表明，Chinese-Vicuna 在医疗任务、多轮对话连贯性和实时法律更新方面表现出竞争性能。Chinese-Vicuna 的模块化设计、开源生态系统和社区驱动的增强功能使其成为中文 LLM 应用的多功能基础模型。
引用
@article{arxiv.2504.12737,
title = {Chinese-Vicuna: A Chinese Instruction-following Llama-based Model},
author = {Chenghao Fan and Zhenyi Lu and Jie Tian},
journal= {arXiv preprint arXiv:2504.12737},
year = {2025}
}
备注
Chinese-Vicuna Technique Report