专精还是通用？面向特定NLP任务的指令微调
计算与语言
2023-10-25 v1
摘要
大语言模型（LLMs）同时执行广泛自然语言处理（NLP）任务的潜力已受到大量研究。尽管指令微调已被证明是将LLMs转化为此类通才模型的数据高效方法，其性能仍落后于专为特定任务训练的专精模型。本文中，我们探究融入广覆盖通才指令微调是否有助于构建专精模型。我们假设其效能取决于任务特定性与技能需求。我们的实验评估了具有不同覆盖水平的四个目标任务，揭示当任务覆盖较广时，整合通才指令微调能持续提升模型性能。当任务特定训练数据量有限时，该效应尤为显著。进一步针对侧重不同能力的三个目标任务的调研表明，通才指令微调提升了理解与推理能力。然而，对于需要事实知识的任务，含幻觉信息的通才数据可能对模型性能产生负面影响。总体而言，我们的工作为利用通用指令微调开发专精模型提供了系统性指南。我们的代码及其他相关资源可在 https://github.com/DavidFanzz/Generalist_or_Specialist 获取。
引用
@article{arxiv.2310.15326,
title = {Specialist or Generalist? Instruction Tuning for Specific NLP Tasks},
author = {Chufan Shi and Yixuan Su and Cheng Yang and Yujiu Yang and Deng Cai},
journal= {arXiv preprint arXiv:2310.15326},
year = {2023}
}
备注
Accepted to EMNLP 2023