低秩适配中的参数放置：数量之所以重要，选择更为关键

我们研究“参数放置问题”：给定 B 矩阵中 $k$ 个可训练条目在 LoRA 适配器中 (A 冻结)，哪 $k$ 个选择是否重要？在监督微调下，随机和受信息驱动的子集实现相当的性能。在 GRPO 基模型上，随机放置未能超越基模型，而梯度信息驱动的放置恢复了标准 LoRA 的准确性。这种 regime 依赖性可追溯到梯度结构：SFT 梯度是低秩且方向上稳定的，因此任何子集都能累积一致的更新；GRPO 梯度是高秩且在步骤之间近正交的，因此只有持续符号梯度的元素才能保留学习信号。我们的评分程序在不超过 10 秒内识别这些关键参数，成本不足训练的 0.5%。所选参数集中于残差流写入投影 (V、O、Down)，在模型家族和规模 (1.5B - 8B) 之间保持稳定。