Platypus：快速、廉价且强大的 LLM 精炼
计算与语言
2024-03-18 v2
摘要
我们提出 ，一系列微调与合并的大语言模型（LLM），其取得了最强性能，并在本工作发布之日位居 HuggingFace 开放 LLM 排行榜第一。我们描述了 (1) 我们策划的数据集 ，其为其他开放数据集的子集，且 ；(2) 我们微调与合并 LoRA 模块的流程，以保留预训练 LLM 的强先验，同时带出特定领域知识；(3) 我们检查训练数据中测试泄漏与污染的努力，可为未来研究提供参考。具体而言，Platypus 系列在跨模型规模的定量 LLM 指标上表现强劲，仅用他者最先进微调 LLM 所需微调数据与总计算的一小部分便登顶全球开放 LLM 排行榜。特别地，一个 13B 的 Platypus 模型可在 A100 GPU 上用 25k 问题于 5 小时内训练完成。这证明了我们 Open-Platypus 数据集的质量，并为该领域更多改进开辟了机会。项目主页：https://platypus-llm.github.io
引用
@article{arxiv.2308.07317,
title = {Platypus: Quick, Cheap, and Powerful Refinement of LLMs},
author = {Ariel N. Lee and Cole J. Hunter and Nataniel Ruiz},
journal= {arXiv preprint arXiv:2308.07317},
year = {2024}
}
备注
Workshop on Instruction Tuning and Instruction Following at NeurIPS 2023