什么使得 ImageNet 利于迁移学习？
计算机视觉与模式识别
2016-12-13 v2 人工智能
机器学习
摘要
ImageNet 训练的深层特征在广泛迁移任务上的巨大成功引出了一个问题：ImageNet 数据集的哪些属性对学习任务良好、通用特征至关重要？本工作对各种相关方面进行了实证研究：更多的预训练数据总是更好吗？特征质量如何依赖于每类的训练样本数？添加更多的对象类别能提升性能吗？在相同的数据预算下，数据应如何划分为类别？学习良好特征是否需要细粒度识别？在训练类别数相同的情况下，粗粒度类别与细粒度类别哪个更好？哪个更好：更多类别还是每类更多样本？为了回答这些及相关问题，我们在 ImageNet 数据集的各种子集上预训练了 CNN 特征，并在 PASCAL 检测、PASCAL 动作分类和 SUN 场景分类任务上评估了迁移性能。我们的总体发现表明，大多数长期被认为关键的预训练数据选择的变化并不会显著影响迁移性能？给定相同的训练类别数，粗粒度类别与细粒度类别哪个更好？更多类别与每类更多样本哪个更好？
引用
@article{arxiv.1608.08614,
title = {What makes ImageNet good for transfer learning?},
author = {Minyoung Huh and Pulkit Agrawal and Alexei A. Efros},
journal= {arXiv preprint arXiv:1608.08614},
year = {2016}
}