切空间中的任务算术：改进预训练模型的编辑
机器学习
2023-11-22 v3 计算机视觉与模式识别
摘要
任务算术最近作为一种经济高效且可扩展的方法出现，可直接在权重空间编辑预训练模型：通过添加不同任务的微调权重，可提升模型在这些任务上的性能，而取负则导致任务遗忘。然而，我们对任务算术有效性及其底层原理的理解仍然有限。我们对视觉-语言模型中的任务算术进行了全面研究，并表明权重解耦是使其有效的关键因素。该性质在预训练期间出现，并表现为权重空间中的不同方向控制着与任务相关的函数空间中分离、局部的区域。值得注意的是，我们表明通过在切空间中线性化模型来微调模型会放大权重解耦。这在多个任务算术基准和不同模型上带来了显著的性能提升。基于这些发现，我们对这些模型的神经正切核（NTK）进行了理论与实证分析，并建立了任务算术与 NTK 特征函数空间局部化之间的引人注目的联系。总体而言，我们的工作揭示了任务算术基本机制的新见解，并提供了一种通过 NTK 线性化来更可靠、更有效地编辑预训练模型的方法。
引用
@article{arxiv.2305.12827,
title = {Task Arithmetic in the Tangent Space: Improved Editing of Pre-Trained Models},
author = {Guillermo Ortiz-Jimenez and Alessandro Favero and Pascal Frossard},
journal= {arXiv preprint arXiv:2305.12827},
year = {2023}
}