面向少样本学习的元迁移学习
计算机视觉与模式识别
2019-04-10 v3
摘要
元学习已被提出作为应对极具挑战性的少样本学习设定的框架。其关键思想是利用大量相似的少样本任务,以学习如何将基学习器适配到仅有少量标注样本可用新任务。由于深度神经网络(DNN)仅用少量样本易过拟合,元学习通常使用浅层神经网络(SNN),从而限制了其有效性。本文提出一种称为元迁移学习(MTL)的新颖少样本学习方法,其学习将深度神经网络适配于少样本学习任务。具体而言,“元”指训练多个任务,“迁移”通过为每个任务学习 DNN 权重的缩放与平移函数实现。此外,我们引入困难任务(HT)元批次方案作为 MTL 的有效学习课程。我们在两个具挑战性的少样本学习基准 miniImageNet 与 Fewshot-CIFAR100 上使用(5类,1样本)与(5类,5样本)识别任务进行实验。与相关工作的大量比较证实,我们所提经 HT 元批次方案训练的元迁移学习方法取得了顶尖性能。消融研究亦表明两个组件均有助于快速收敛与高准确率。
引用
@article{arxiv.1812.02391,
title = {Meta-Transfer Learning for Few-Shot Learning},
author = {Qianru Sun and Yaoyao Liu and Tat-Seng Chua and Bernt Schiele},
journal= {arXiv preprint arXiv:1812.02391},
year = {2019}
}
备注
CVPR 2019