高效分层LLM微调用于修订意图预测
计算与语言
2025-10-02 v1 人工智能
摘要
大型语言模型(LLM)在各种文本生成任务中展现出惊人的成功，但其针对简单而关键文本分类的潜力仍未得到充分探索，因为LLM预训练倾向于强调生成而非分类。虽然经过指令微调的LLM可将分类转化为生成任务，但往往难以对细腻的文本进行分类。一个典型例子是文本修订，涉及文本对之间的细微编辑。虽然直接为文本修订进行微调似乎是合理的，但需要大量昂贵且稀缺的修订标注。为此，我们引入一种即插即用分层参数高效微调(PEFT)框架，即IR-Tuning，该框架根据梯度范数分布动态选择重要LLM层进行微调，同时冻结冗余层。大量实验表明，IR-Tuning在多样化文本修订任务上优于多个分层PEFT基线，同时实现快速收敛、低GPU内存消耗和在小型修订语料库上的有效性。
引用
@article{arxiv.2510.00268,
title = {Efficient Layer-wise LLM Fine-tuning for Revision Intention Prediction},
author = {Zhexiong Liu and Diane Litman},
journal= {arXiv preprint arXiv:2510.00268},
year = {2025}
}
备注
In The Conference on Empirical Methods in Natural Language Processing (EMNLP), November 2025