Zoo-Tuning：来自模型动物园的自适应迁移

随着深度网络在各种大规模数据集上的发展，大量预训练模型可供使用。从模型动物园迁移时，对每個源模型应用基于经典单模型的迁移学习方法面临高计算负担，且无法充分利用动物园中的丰富知识。我们提出 \emph{Zoo-Tuning} 应对这些挑战，其学习将预训练模型参数自适应迁移到目标任务。借助可学习的通道对齐层与自适应聚合层，Zoo-Tuning \emph{自适应聚合通道对齐的预训练参数} 以导出目标模型，通过同时将多个源模型适配到下游任务来促进知识迁移。该自适应聚合显著降低了训练与推理时的计算成本。我们进一步提出轻量 Zoo-Tuning，采用批平均门控值的时间集成以降低推理时的存储成本。我们在多种任务上评估了我们的方法，包括强化学习、图像分类与人脸关键点检测。实验结果证明，所提自适应迁移学习方法能更有效且高效地从模型动物园迁移知识。