GD-FPS：面向高效微调的参数驱动前馈参数选择
计算机视觉与模式识别
2026-05-05 v2 机器学习
摘要
参数高效微调（Parameter-Efficient Fine-Tuning, PEFT）已成为适应下游任务的关键策略，但现有方法面临显著局限。基于添加的方法（如 Adapters）引入推理延迟和工程复杂度，而基于选择的方法（如梯度参数选择 Gradient-based Parameter Selection, GPS）要求进行完整的反向传播。该方法对梯度的依赖导致巨大的内存占用和显著的计算延迟，同时使选择易受随机小批量抽样随机性的影响。为解决此问题，我们提出了增长驱动前馈参数选择（Growth-Driven Feedforward Parameter Selection, GD-FPS）。该方法完全通过前向传播实现，严格无梯度，通过对预训练锚点相对于激活增长的固有权重大小进行比例缩放来识别最优参数子集。在涵盖图像分类和语义分割的 26 个视觉任务上评估的 GD-FPS，实现了对最新 PEFT 基线的具竞争力或更好性能。关键在于，与 GPS 相比，在参数选择阶段，GD-FPS 将峰值内存使用降低近乎 18 倍，并加快执行速度超过 2.7 倍。通过保证确定性选择，GD-FPS 提供了一种高效、快速且稳健的微调解决方案。
引用
@article{arxiv.2510.27359,
title = {GD-FPS: Growth-Driven Feedforward Parameter Selection for Efficient Fine-Tuning},
author = {Kenneth Yang and Wen-Li Wei and Jen-Chun Lin},
journal= {arXiv preprint arXiv:2510.27359},
year = {2026}
}