面向特定场景的 LLaMA 多任务指令微调：以写作辅助为例的初步研究
计算与语言
2023-10-10 v2
摘要
诸如 ChatGPT 之类的专有大型语言模型（LLM）因其在处理多样化任务方面的卓越能力而备受关注。近期研究表明，开源的较小基础模型（如 7B 规模的 LLaMA）在使用指令驱动的数据进行微调时，也能在各类任务中展现出显著的能力。在本工作中，我们研究一种实际的问题设定：其重点在于一项或少数几项特定任务，而非通用指令遵循，并探讨 LLM 能否在此类定向场景中发挥作用并进一步提升。我们选取写作辅助场景作为试验台，其包含七项写作任务。我们为这些任务收集训练数据，将其重构为指令遵循格式，并随后通过指令微调对 LLM（具体为 LLaMA）进行精炼。实验结果表明，在写作指令数据上微调 LLaMA 显著提升了其在写作任务上的能力。我们还进行了更多实验与分析，以期为未来在特定场景下高效微调 LLaMA 的工作提供见解。最后，我们结合微调所需投入与部署所消耗的资源，就仅为单一目标任务而采用 LLM 的必要性展开了讨论。
引用
@article{arxiv.2305.13225,
title = {Multi-Task Instruction Tuning of LLaMa for Specific Scenarios: A Preliminary Study on Writing Assistance},
author = {Yue Zhang and Leyang Cui and Deng Cai and Xinting Huang and Tao Fang and Wei Bi},
journal= {arXiv preprint arXiv:2305.13225},
year = {2023}
}