深度元学习：在概念空间中学学习
机器学习
2018-02-13 v1
摘要
少样本学习对于从许多相关任务中学习学习算法（元学习器）的元学习而言仍具挑战性。本工作中，我们认为这源于缺乏良好的元学习表示，并提出深度元学习以将深度学习的表示能力整合进元学习。该框架由三个模块组成：概念生成器、元学习器和概念判别器，它们被联合学习。概念生成器（如深度残差网络）为每个实例提取捕捉其高层概念的表达，元学习器在该表达上执行少样本学习，而概念判别器识别这些概念。通过在概念空间而非复杂的实例空间中学学习，深度元学习可大幅改进原始元学习，这在多种少样本图像识别问题上得到验证。例如，在CIFAR-100与CUB-200上的5-way-1-shot图像识别中，它将Matching Nets从50.53%和56.53%提升至58.18%和63.47%，将MAML从49.28%和50.45%提升至56.65%和64.63%，并将Meta-SGD从53.83%和53.34%分别提升至61.62%和66.95%。
引用
@article{arxiv.1802.03596,
title = {Deep Meta-Learning: Learning to Learn in the Concept Space},
author = {Fengwei Zhou and Bin Wu and Zhenguo Li},
journal= {arXiv preprint arXiv:1802.03596},
year = {2018}
}