视觉调优

微调视觉模型已在许多下游视觉任务中广泛展现出有前景的性能。随着预训练视觉基础模型的惊人发展，视觉调优跳出了微调整个预训练模型或仅微调全连接层的标准操作模式。相反，近期进展通过更新远更少的参数即可取得优于全量微调整个预训练参数的性能，使边缘设备和下游应用能够复用部署在云端的日益庞大的基础模型。为帮助研究者全面了解视觉调优的现状与未来方向，本综述甄选大量近期工作，提供对现有工作和模型的系统而全面的概述。具体而言，它提供了视觉调优的详细背景，并将近期视觉调优技术分为五类：提示调优、适配器调优、参数调优和重映射调优。同时，它为前瞻性的预训练及视觉调优中的各种交互提供了一些令人振奋的研究方向。