基于类内特征方差的快速准确可迁移性度量
机器学习
2023-08-14 v1
摘要
给定一组预训练模型，我们如何快速准确地为下游任务找到最有用的预训练模型？可迁移性度量旨在量化在源任务上学习的预训练模型对目标任务的可迁移程度。它用于对给定任务的预训练模型快速排序，从而成为迁移学习的关键步骤。现有方法在迁移学习前将可迁移性度量为源模型对目标数据的判别能力，无法准确估计微调性能。其中部分方法将可迁移性度量的应用限制在具有分类器的有监督预训练模型选择上。具备一种可应用于多种情形（如选择无分类器的自监督预训练模型、为目标任务选择最佳迁移层）的通用可迁移性度量方法十分重要。本工作中，我们提出TMI（基于类内特征方差的可迁移性度量），一种快速准确的可迁移性度量算法。我们将可迁移性视为预训练模型在目标任务上的泛化能力，通过度量类内特征方差实现。类内方差评估模型对新任务的适应性，从而衡量模型的可迁移程度。与估计模型判别力的既往研究相比，类内方差无需最优特征提取器与分类器，因而更为准确。在真实数据集上的大量实验表明，TMI在筛选前5最佳模型上优于对比方法，且在17个案例中一致呈现更优相关性的有13例。
引用
@article{arxiv.2308.05986,
title = {Fast and Accurate Transferability Measurement by Evaluating Intra-class Feature Variance},
author = {Huiwen Xu and U Kang},
journal= {arXiv preprint arXiv:2308.05986},
year = {2023}
}