度量深度学习方法的数据效率
机器学习
2019-07-08 v1 计算机视觉与模式识别
机器学习
摘要
在本文中，我们提出了一种新的实验协议，并用它来基准测试两种深度学习算法——卷积神经网络（CNNs）和基于层次信息保持图的慢特征分析（HiGSFA）——在分类和迁移学习场景任务中的数据效率（即性能作为训练集大小的函数）。这些算法在 MNIST 和 Omniglot 数据集的不同大小子集上进行训练。当模型在每类 50 和 200 个样本上训练用于 MNIST 分类时，HiGSFA 优于标准 CNN 网络。在其他情况下，CNN 表现更好。结果表明，在某些情况下，贪婪的、局部最优的自底向上学习与基于全局梯度的学习具有同等或更强的能力。
引用
@article{arxiv.1907.02549,
title = {Measuring the Data Efficiency of Deep Learning Methods},
author = {Hlynur Davíð Hlynsson and Alberto N. Escalante-B. and Laurenz Wiskott},
journal= {arXiv preprint arXiv:1907.02549},
year = {2019}
}
备注
8 pages