词嵌入的一次学习与少样本学习
计算与语言
2018-01-03 v2 机器学习
机器学习
摘要
标准深度学习系统需要数千或数百万个样本来学习一个概念，且难以轻松整合新概念。相比之下，人类具备极强的一次或少数样本学习能力。例如，仅通过在一个句子中听到某个词的使用，人类便可借助周边词的句法与语义所提供的信息，对该词推断出大量性质。在此，我们受此启发，提出一种简单技术，使深度循环网络同样能够利用其先验知识，从少量数据中为新生词学习出有用的表示。这可使自然语言处理系统更加灵活，使其能从所遇到的新词中持续学习。
引用
@article{arxiv.1710.10280,
title = {One-shot and few-shot learning of word embeddings},
author = {Andrew K. Lampinen and James L. McClelland},
journal= {arXiv preprint arXiv:1710.10280},
year = {2018}
}
备注
15 pages, 7 figures, under review as a conference paper at ICLR 2018