面向新类的少样本分类准备
机器学习
2020-03-03 v1 机器学习
摘要
少样本分类算法能通过采用从其他领域丰富数据预训练的模型，缓解许多现实问题中至关重要的数据稀缺问题。然而，预训练过程通常未意识到未来对其他概念类的适配。我们揭示，经典全训练特征提取器会为未见类留下极小的嵌入空间，使模型难以良好拟合新类。本工作中，我们提出使用一种称为自压缩 softmax 损失（SSL）的面向新类准备损失函数用于少样本分类。SSL 可防止嵌入空间被完全占据，从而模型更有准备地学习新类。在 CUB-200-2011 与 mini-ImageNet 数据集上的实验表明，SSL 带来了 SOTA 性能的显著提升。本工作或可启发在少样本分类任务中考虑模型容量。
引用
@article{arxiv.2003.00497,
title = {Novelty-Prepared Few-Shot Classification},
author = {Chao Wang and Ruo-Ze Liu and Han-Jia Ye and Yang Yu},
journal= {arXiv preprint arXiv:2003.00497},
year = {2020}
}