L2AE-D:基于元级 Dropout 的少样本学习嵌入聚合方法
机器学习
2024-02-06 v1 计算机视觉与模式识别
摘要
少样本学习关注以极少量标注样本学习新的视觉概念。解决此问题的一个成功方法是在基于卷积神经网络的所学度量空间中比较样本间的相似性。然而,现有方法通常由于训练任务数量有限而遭受元级过拟合,且通常未考虑同一通道内不同样本的卷积特征的重要性。为应对这些局限,我们做出以下两点贡献:(a) 我们提出了一种新颖的元学习方法,基于通道注意力机制聚合有用卷积特征并抑制噪声特征,以改进类表示。所提模型无需微调且可以端到端方式训练。主要新颖性在于引入一个共享权重生成模块,该模块学习为同一通道内不同样本的特征图分配不同权重。(b) 我们还引入了一种简单的元级 dropout 技术,可降低多种少样本学习方法中的元级过拟合。在我们的实验中,我们发现该简单技术显著提升了所提方法以及各种最先进元学习算法的性能。将我们的方法应用于使用 Omniglot 和 miniImageNet 数据集的少样本图像识别表明,其能够给出最先进的分类性能。
引用
@article{arxiv.1904.04339,
title = {L2AE-D: Learning to Aggregate Embeddings for Few-shot Learning with Meta-level Dropout},
author = {Heda Song and Mercedes Torres Torres and Ender Özcan and Isaac Triguero},
journal= {arXiv preprint arXiv:1904.04339},
year = {2024}
}