面向LoRA合并的B空间共享方向校准

将分别训练的LoRA适配器进行合并是联合多任务训练的实用替代方案，但常常会损害性能。现有方法通常将LoRA更新 $\Delta W = BA$ 视为单个对象，未能区分两个LoRA矩阵。我们指出，LoRA合并干扰的主要来源来自输出侧矩阵 $B$。在不同任务之间，$B$反复地使用一小组共享方向，而 $A$ 则远更具任务特异性。因此，合并后的适配器会过度强调这些共享方向，导致任务特异性信息丢失。我们提出了Pico（Pre-merge interference calibration in output-space，即在合并前校准输出空间中的干扰），一种无需数据的数据自由方法，通过对数共享方向进行降尺度处理，然后对合并后的更新进行重新缩放来校准 $B$。Pico可直接集成到诸如Task Arithmetic、TIES和TSV-M等现有合并方法中。针对来自数学、编程、金融和医疗等八个不同基准测试，Pico在相应的基线方法上提高了3.4-8.3分的平均准确率，并实现了最佳的整体平均性能。Pico还使合并后的适配器能够超过仅用所有任务数据训练的LoRA。这些结果表明，LoRA合并在正确对待两个LoRA矩阵时效果更佳。