用于少样本分类的自监督原型迁移学习
机器学习
2020-06-23 v1 计算机视觉与模式识别
机器学习
摘要
大多数少样本学习方法在（预）训练阶段依赖于与目标任务领域相关的昂贵标注数据。近来，无监督元学习方法以牺牲少样本分类性能为代价换来了对标注的需求。同时，在具有现实域偏移的设置中，常见的迁移学习已被证明优于有监督元学习。基于这些见解以及自监督学习的进展，我们提出了一种迁移学习方法，其构建了一个度量嵌入，将无标签原型样本及其增强样本紧密聚拢在一起。该预训练嵌入通过汇总类簇并微调，作为少样本分类的起点。我们证明，我们的自监督原型迁移学习方法 ProtoTransfer 在来自 mini-ImageNet 数据集的少样本任务上优于最先进的无监督元学习方法。在具有域偏移的少样本实验中，我们的方法甚至具有与有监督方法相当的性能，但所需的标签数量少几个数量级。
引用
@article{arxiv.2006.11325,
title = {Self-Supervised Prototypical Transfer Learning for Few-Shot Classification},
author = {Carlos Medina and Arnout Devos and Matthias Grossglauser},
journal= {arXiv preprint arXiv:2006.11325},
year = {2020}
}
备注
Extended version of work presented at the 7th ICML Workshop on Automated Machine Learning (2020). Code available at https://github.com/indy-lab/ProtoTransfer ; 17 pages, 3 figures, 12 tables