基于可微凸优化的元学习
计算机视觉与模式识别
2019-04-24 v2 机器学习
摘要
许多用于少样本学习的元学习方法依赖于最近邻分类器等简单基学习器。然而，即使在少样本情形下，判别训练的线性预测器也能提供更好的泛化能力。我们提议将这些预测器用作基学习器来学习少样本学习的表示，并表明其在一系列少样本识别基准上在特征维度与性能之间提供了更好的权衡。我们的目标是学习在针对新类别的线性分类规则下泛化良好的特征嵌入。为高效求解该目标，我们利用线性分类器的两个性质：凸问题最优条件的隐式微分与优化问题的对偶形式。这使我们能够使用高维嵌入，以适度的计算开销增加换取改进的泛化。我们的方法名为MetaOptNet，在miniImageNet、tieredImageNet、CIFAR-FS和FC100少样本学习基准上取得了最先进的性能。我们的代码可在https://github.com/kjunelee/MetaOptNet获取。
引用
@article{arxiv.1904.03758,
title = {Meta-Learning with Differentiable Convex Optimization},
author = {Kwonjoon Lee and Subhransu Maji and Avinash Ravichandran and Stefano Soatto},
journal= {arXiv preprint arXiv:1904.03758},
year = {2019}
}
备注
Accepted to CVPR 2019 (Oral)