L-TUNING：大语言模型中提示与前缀的同步标签调优
计算与语言
2024-04-16 v2 人工智能
机器学习
摘要
针对特定任务高效微调大语言模型（LLMs）是自然语言处理领域面临的一项重大挑战。传统方法（如提示调优或前缀调优）通常依赖任意令牌进行训练，导致训练时间延长，且各类标签间的令牌使用过于泛化。为解决这些问题，本文提出了 L-Tuning，这是一种专为自然语言推理（NLI）框架内的分类任务设计的高效微调方法。与传统方法不同，L-Tuning 专注于对经过预训练 LLM 处理的标签令牌进行微调，从而利用其现有的语义知识。该技术不仅提高了微调的准确性和效率，还促进了为每个类别生成独特的标签嵌入，增强了模型训练的细微差别。实验结果表明，与传统方法相比，L-Tuning 在训练效率和分类准确性方面均有显著提升，标志着在针对复杂语言任务微调 LLMs 方面取得了令人瞩目的进展。
引用
@article{arxiv.2402.01643,
title = {L-TUNING: Synchronized Label Tuning for Prompt and Prefix in LLMs},
author = {Md. Kowsher and Md. Shohanur Islam Sobuj and Asif Mahmud and Nusrat Jahan Prottasha and Prakash Bhat},
journal= {arXiv preprint arXiv:2402.01643},
year = {2024}
}
备注
Published in the ICLR TinyPaper track