多样性有助：基于分布偏移数据增强的无监督少样本学习
计算机视觉与模式识别
2020-09-18 v2
摘要
少样本学习旨在仅给定少量训练样本时学习新概念，近年来已得到广泛探索。然而，当前大多数工作严重依赖大规模有标签辅助集以情景训练范式训练模型。此类监督设定从根本上限制了少样本学习算法的广泛应用。为此，本文提出一种称为基于分布偏移数据增强的无监督少样本学习（ULDA）的新框架，其在利用数据增强时关注所构建预文本少样本任务内部的分布多样性。重要的是，我们强调了基于增强的预文本少样本任务中分布多样性的价值与重要性，其能有效缓解过拟合问题并使少样本模型学习更鲁棒的特征表示。在ULDA中，我们系统性地研究了不同增强技术的效果，并提议通过对支持集与查询集进行差异化增强（即分布偏移）来强化每个少样本任务中查询集与支持集间的分布多样性（或差异）。如此，即便结合简单增强技术（如随机裁剪、颜色抖动或旋转），我们的ULDA也能带来显著提升。实验中，经ULDA学习的少样本模型在Omniglot与miniImageNet的多种既定少样本学习任务上取得了优越的泛化性能并获得了最先进结果。源代码见 https://github.com/WonderSeven/ULDA。
引用
@article{arxiv.2004.05805,
title = {Diversity Helps: Unsupervised Few-shot Learning via Distribution Shift-based Data Augmentation},
author = {Tiexin Qin and Wenbin Li and Yinghuan Shi and Yang Gao},
journal= {arXiv preprint arXiv:2004.05805},
year = {2020}
}
备注
10 pages, 8 figures. Code: https://github.com/WonderSeven/ULDA