中文

在少样本学习中回溯低层信息

机器学习 2020-07-17 v2 计算机视觉与模式识别 机器学习

摘要

人类能够从少量样本中学习新概念。相比之下,有监督深度学习模型在尝试分类新样本时,通常缺乏从有限数据场景中提取可靠预测规则的能力。这一具有挑战性的场景通常被称为少样本学习。由于其对许多现实世界问题的重要性,少样本学习近年受到越来越多的关注。近来,依赖元学习范式并结合图结构(建模样本间关系)的新方法,已在多种少样本分类任务上展现出 promising 结果。然而,现有少样本学习工作仅聚焦于神经网络最后一层产生的特征嵌入。本文中,我们提议利用低层支撑信息,即隐藏神经网络层的特征嵌入,以提升分类器准确率。基于图基元学习框架,我们开发了名为 Looking-Back 的方法,该方法利用此类低层信息构建额外图以在有限数据设置中进行标签传播。我们在两个流行的少样本学习数据集 miniImageNet 与 tieredImageNet 上的实验表明,我们的方法能利用网络中的低层信息来改善当前最优分类性能。

关键词

引用

@article{arxiv.2005.13638,
  title  = {Looking back to lower-level information in few-shot learning},
  author = {Zhongjie Yu and Sebastian Raschka},
  journal= {arXiv preprint arXiv:2005.13638},
  year   = {2020}
}

备注

13 pages, 2 figures; fixed typographic errors and added journal ref