LEEP：评估习得表征可迁移性的新度量
机器学习
2020-08-17 v2 计算机视觉与模式识别
机器学习
摘要
我们引入一种新度量来评估分类器习得的表征的可迁移性。我们的度量——对数期望经验预测（Log Expected Empirical Prediction, LEEP）——简单且易于计算：给定在源数据集上训练的分类器，仅需将目标数据集通过该分类器运行一次。我们从理论上分析 LEEP 的性质，并实证展示其有效性。分析表明，LEEP 可预测迁移与元迁移学习方法的性能与收敛速度，即便面对小规模或不平衡数据。此外，LEEP 优于近期提出的如负条件熵与 H 分数等可迁移性度量。值得注意的是，从 ImageNet 迁移至 CIFAR100 时，就与实际迁移精度的相关性而言，LEEP 相较最佳竞争方法可实现最高 30% 的提升。
引用
@article{arxiv.2002.12462,
title = {LEEP: A New Measure to Evaluate Transferability of Learned Representations},
author = {Cuong V. Nguyen and Tal Hassner and Matthias Seeger and Cedric Archambeau},
journal= {arXiv preprint arXiv:2002.12462},
year = {2020}
}
备注
Published at the International Conference on Machine Learning (ICML) 2020