中文

用于单样本学习的匹配网络

机器学习 2018-01-01 v2 机器学习

摘要

从少量样本中学习仍然是机器学习中的一个关键挑战。尽管在视觉和语言等重要领域取得了近期进展,但标准的监督深度学习范式并未提供一个令人满意的解决方案,以实现从少量数据中快速学习新概念。在本工作中,我们采用了基于深度神经特征的度量学习思想,以及用外部记忆增强神经网络的最新进展。我们的框架学习一个网络,将一个小的带标签支持集和一个无标签样本映射到其标签,从而无需进行微调以适应新的类别类型。随后,我们在视觉(使用 Omniglot、ImageNet)和语言任务上定义了单样本学习问题。与竞争方法相比,我们的算法将 ImageNet 上的单样本准确率从 87.6% 提升至 93.2%,在 Omniglot 上从 88.0% 提升至 93.8%。我们还通过在 Penn Treebank 上引入一个单样本任务,展示了同一模型在语言建模上的有效性。

关键词

引用

@article{arxiv.1606.04080,
  title  = {Matching Networks for One Shot Learning},
  author = {Oriol Vinyals and Charles Blundell and Timothy Lillicrap and Koray Kavukcuoglu and Daan Wierstra},
  journal= {arXiv preprint arXiv:1606.04080},
  year   = {2018}
}