理解与实现任务算术中的权重解缔

任务算术提供了一种高效且无需训练的方式来编辑预训练模型，但缺乏对其成功性提供根本性理论解释。现有的“权重解缔”概念描述了非干扰任务组合的理想结果，但未揭示其背后的原因。关键是，预训练模型 ($\theta_0$) 或任务向量 ($\tau_t$) 的哪些内在属性使解缔成为可能仍未得到充分探索。在本文中，我们引入了任务特征专门化 (TFS)，即模型分配不同内部特征给不同任务的能力，作为根本原理。我们首先证明了 TFS 是权重解缔的充分条件。更重要的是，我们发现 TFS 还导致一个可观测的几何后果：权重向量的正交性。这将 TFS 定位为功能结果（解缔）和可测量几何属性（正交性）的共同原因。这一关系为我们的 метод 提供了关键见解：由于抽象的 TFS 属性难以直接强制，我们可以相反地通过塑造其具体几何后果（正交性）来促进权重解缔。因此，我们提出了 OrthoReg，这是一种简单且有效的正则化方法，主动强制在 fine-tuning 时构成 $\tau_t$ 的权重更新 ($\Delta W$) 之间建立内部正交结构。我们在理论上证明了 OrthoReg 促进了解缔。大量实验表明，OrthoReg 持续且显著地提高了各种任务算术方法的性能。代码可在 \href{https://github.com/RL-MIND/OrthoReg}{https://github.com/RL-MIND/OrthoReg} 获取。