“少于单样本”学习：从 M<N 个样本中学习 N 个类别
机器学习
2021-08-09 v1 机器学习
摘要
深度神经网络需要大型训练集，但计算成本高且训练时间长。在保持几乎相同准确率的同时用远小得多的训练集进行训练将非常有益。在小样本学习设定中，模型必须仅给定某类别少量样本就学习该新类别。单样本学习是小样本学习的一种极端形式，模型必须从单个示例学习新类别。我们提出了“少于单样本”学习任务，其中模型必须仅给定 M<N 个示例就学习 N 个新类别，并表明这在软标签的帮助下是可以实现的。我们使用 k 近邻分类器的软标签推广来探索在“少于单样本”学习设定中可以创建的复杂决策景观。我们分析这些决策景观，以推导使用 M<N 个软标签样本分离 N 个类别的理论下界，并研究所得到系统的鲁棒性。
引用
@article{arxiv.2009.08449,
title = {'Less Than One'-Shot Learning: Learning N Classes From M<N Samples},
author = {Ilia Sucholutsky and Matthias Schonlau},
journal= {arXiv preprint arXiv:2009.08449},
year = {2021}
}