预训练检测器选择的高效迁移性评估
计算机视觉与模式识别
2024-03-15 v1
摘要
大规模预训练后跟随下游微调是迁移深度学习模型的有效解决方案。由于对所有可能的预训练模型进行微调计算成本高昂，因此我们寻求以计算高效的方式预测这些预训练模型的迁移性能。与此前工作不同，后者寻找适合下游分类和分割任务的模型，本文研究预训练目标检测器的高效迁移性评估。为此，我们构建了一个检测器迁移基准，包含大型且多样化的预训练检测器集合，涵盖各种体系结构、源数据集和训练方案。给定该集合，我们采用来自 5 个不同领域的 7 个目标数据集作为下游目标任务进行评估。进一步地，我们提出在统一框架中同时评估分类和回归子任务。此外，我们设计了一个用于评估具有不同对象的任务的补充指标。实验结果表明，我们的方法在不同目标域中评估迁移性方面优于其他 SOTA 方法，同时将 wall-clock 时间降低 32 倍，只需对所有预训练检测器进行暴力微调的 5.2% 内存占用。
引用
@article{arxiv.2403.09432,
title = {Efficient Transferability Assessment for Selection of Pre-trained Detectors},
author = {Zhao Wang and Aoxue Li and Zhenguo Li and Qi Dou},
journal= {arXiv preprint arXiv:2403.09432},
year = {2024}
}
备注
WACV 2024