大数据与小数据上的表示学习
计算机视觉与模式识别
2017-08-01 v1
摘要
深度学习的成功归功于三个关键因素：数据规模、从数据中学习表示的增强模型以及计算规模。本书章节阐述了数据驱动方法对于从大数据和小数据中学习良好表示的重要性。就大数据而言，研究界已广泛认同数据越多，对表示和分类的改进越有利。问题随之变为如何从大数据中学习表示，以及当数据稀缺时如何进行表示学习。我们通过展示CNN模型在表示、优化和泛化方面的增强来回答第一个问题。为应对小数据挑战，我们展示了迁移表示学习的有效性。迁移表示学习将学习到的表示从拥有丰富训练数据的源域迁移到训练数据稀缺的目标域。迁移表示学习为我们XPRIZE Tricorder设备（在310支参赛队伍中获得第二名）的OM和黑色素瘤诊断模块带来了显著的诊断准确率提升。
引用
@article{arxiv.1707.09873,
title = {Representation Learning on Large and Small Data},
author = {Chun-Nan Chou and Chuen-Kai Shie and Fu-Chieh Chang and Jocelyn Chang and Edward Y. Chang},
journal= {arXiv preprint arXiv:1707.09873},
year = {2017}
}
备注
Book chapter