GIFT：引导式微调与迁移以增强指令调优语言模型
计算与语言
2026-05-05 v1
摘要
指令调优语言模型的适应性范式是对预训练基础模型进行任务特定更新，然后合并到指令调优模型中。然而，现有方法通常将指令调优模型视为仅在最终合并阶段参与的被动目标，未能引导训练过程。我们提出GIFT（Guided Fine-Tuning and Transfer），一个简单高效的框架，将指令模型的指导引入任务适应。GIFT 通过从指令调优模型中派生的置信信号，对预训练基础模型上的低秩适配器进行微调。随后将学习到的适配器合并到指令调优模型中，生成保留通用指令遵循行为的任务专用模型。我们在多个模型家族和规模的多个数学和知识密集型基准上评估了GIFT。结果表明，GIFT在保持鲁健的泛化能力和有利的测试时间扩展行为的同时， consistently 超过直接微调和代表性迁移基线方法。
引用
@article{arxiv.2605.01256,
title = {GIFT: Guided Fine-Tuning and Transfer for Enhancing Instruction-Tuned Language Models},
author = {Zhiwen Ruan and Yichao Du and Jianjie Zheng and Longyue Wang and Yun Chen and Peng Li and Jinsong Su and Yang Liu and Guanhua Chen},
journal= {arXiv preprint arXiv:2605.01256},
year = {2026}
}