LMTuner：一个用户友好且高度可集成的微调大语言模型训练框架
计算与语言
2023-08-22 v1 人工智能
摘要
随着大语言模型（LLMs）领域的蓬勃发展，针对特定行业与领域的高效增量训练需求持续增长。当前主流框架缺乏模块化设计，启动 LLM 训练往往需大量编码工作。为此，我们提出“LMTuner”，一个高可用、可集成且可扩展的系统，能以极少用户输入快速训练 LLM。LMTuner 包含三个主要模块——交互、训练与推理模块。我们认为 LMTuner 的可用性与完整性缓解了训练大语言模型的复杂性。值得注意的是，即便是新手用户也能在五分钟内开始训练大语言模型。此外，它集成了 DeepSpeed 框架并支持低秩自适应（LoRA）、量化低秩自适应（QLoRA）等高效微调方法，可使用单台服务器训练从 300M 到高达 130B 参数的语言模型。LMTuner 的主页（https://wengsyx.github.io/LMTuner/）与演示视频（https://youtu.be/nsXmWOmN3rE）现已公开可用。
引用
@article{arxiv.2308.10252,
title = {LMTuner: An user-friendly and highly-integrable Training Framework for fine-tuning Large Language Models},
author = {Yixuan Weng and Zhiqi Wang and Huanxuan Liao and Shizhu He and Shengping Liu and Kang Liu and Jun Zhao},
journal= {arXiv preprint arXiv:2308.10252},
year = {2023}
}