用于单样本学习的匹配网络
机器学习
2018-01-01 v2 机器学习
摘要
从少量样本中学习仍然是机器学习中的一个关键挑战。尽管在视觉和语言等重要领域取得了近期进展,但标准的监督深度学习范式并未提供一个令人满意的解决方案,以实现从少量数据中快速学习新概念。在本工作中,我们采用了基于深度神经特征的度量学习思想,以及用外部记忆增强神经网络的最新进展。我们的框架学习一个网络,将一个小的带标签支持集和一个无标签样本映射到其标签,从而无需进行微调以适应新的类别类型。随后,我们在视觉(使用 Omniglot、ImageNet)和语言任务上定义了单样本学习问题。与竞争方法相比,我们的算法将 ImageNet 上的单样本准确率从 87.6% 提升至 93.2%,在 Omniglot 上从 88.0% 提升至 93.8%。我们还通过在 Penn Treebank 上引入一个单样本任务,展示了同一模型在语言建模上的有效性。
引用
@article{arxiv.1606.04080,
title = {Matching Networks for One Shot Learning},
author = {Oriol Vinyals and Charles Blundell and Timothy Lillicrap and Koray Kavukcuoglu and Daan Wierstra},
journal= {arXiv preprint arXiv:1606.04080},
year = {2018}
}