用于选择源模型集成的可迁移性度量
计算机视觉与模式识别
2022-04-01 v2
摘要
我们解决了迁移学习中的集成选择问题：给定一个庞大的源模型池，我们希望选择一个模型集成，该集成在目标训练集上微调后，能在目标测试集上产生最佳性能。由于对所有可能的集成进行微调在计算上是不可行的，我们旨在使用计算高效的可迁移性度量来预测其在目标数据集上的性能。我们为此任务提出了几种新的可迁移性度量，并在一个具有挑战性和现实性的语义分割迁移学习设置中对其进行了评估：我们通过考虑涵盖各种图像域的17个源数据集、两种不同的架构和两种预训练方案，创建了一个庞大且多样化的源模型池。基于此池，我们随后自动选择一个子集，以形成一个在给定目标数据集上表现良好的集成。我们将我们的方法选择的集成与两个基线进行比较，这两个基线选择单个源模型，分别来自（1）与我们方法相同的池；或（2）一个包含大型源模型的池，每个模型具有与集成相似的容量。在17个目标数据集上平均，我们的方法分别以6.0%和2.5%的相对平均IoU优于这些基线。
引用
@article{arxiv.2111.13011,
title = {Transferability Metrics for Selecting Source Model Ensembles},
author = {Andrea Agostinelli and Jasper Uijlings and Thomas Mensink and Vittorio Ferrari},
journal= {arXiv preprint arXiv:2111.13011},
year = {2022}
}