理解与引导大型语言模型参数高效微调中的层级放置
机器学习
2026-02-10 v2 人工智能
摘要
随着大型语言模型（LLM）规模的不断增长，完整参数微调的成本已使参数高效微调（PEFT）成为下游适配的默认策略。推理延迟在可扩展部署和边缘或快速部署setting中的微调成本，使得选择哪些层进行微调不可避免。然而，当前实践通常在所有层上均匀应用PEFT，仅限于对层级选择的有限理解或利用。本文在冻结基模型之上构建了PEFT的统一投影残差视图。基于局部二次近似，层级适应由三个量控制：(i) 投影残差范数（resnorm），衡量某层可捕获正确偏差的程度；(ii) 激活能量，决定特征条件；(iii) 层级耦合，量化残差跨层之间的相互作用强度。我们证明，对于平方损失和线性适配器，resnorm等价于归一化梯度范数，激活能量控制不良条件和噪声放大，弱耦合导致层级贡献近似可加。基于这些洞见，我们引入了Layer Card—a一种可复用的诊断工具，概述每个层级的残差信号强度、计算成本和性能。具有相同模型和LoRA配置的情况下，Layer Card引导的放置细化了适配层的选择，以灵活优先考虑不同的目标，如最大化性能或降低微调成本。此外，在Qwen3-8B上，我们展示，仅选择性地适配部分层级即可实现接近全层LoRA的性能，同时显著降低微调成本和推理时适配层的数量，为全层插入提供了更具成本效益的替代方案。
引用
@article{arxiv.2602.04019,
title = {Understanding and Guiding Layer Placement in Parameter-Efficient Fine-Tuning of Large Language Models},
author = {Yichen Xu and Yuyang Liang and Shan Dai and Tianyang Hu and Tsz Nam Chan and Chenhao Ma},
journal= {arXiv preprint arXiv:2602.04019},
year = {2026}
}