以 LSSVM 为基础学习器并带转导模块的少样本学习
机器学习
2020-09-15 v1 机器学习
摘要
用于少样本学习的元学习方法的性能通常取决于三个方面：适于比较的特征、适于低数据场景的分类器（基础学习器），以及来自待分类样本的有价值信息。本工作中，我们对后两个方面做出改进：1）尽管存在许多有效的基础学习器，但在泛化性能与计算开销之间存在权衡，因此我们引入多类最小二乘支持向量机作为基础学习器，其以更少的计算开销获得了优于现有方法的泛化性能；2）进一步，为利用查询样本中的信息，我们提出两个简单而有效的转导模块，其通过使用查询样本来修正支持集，即基于注意力机制调整支持样本，以及将带有伪标签的查询集原型作为伪支持样本加入支持集。这两个模块显著提升了少样本分类准确率，尤其在困难的 1-shot 设定下。我们的模型记为 FSLSTM（以 LSSVM 基础学习器与转导模块进行少样本学习），在 miniImageNet 和 CIFAR-FS 少样本学习基准上取得了当前最优性能。
引用
@article{arxiv.2009.05786,
title = {Few-shot Learning with LSSVM Base Learner and Transductive Modules},
author = {Haoqing Wang and Zhi-Hong Deng},
journal= {arXiv preprint arXiv:2009.05786},
year = {2020}
}
备注
9 pages,3 figures,3 tables