中文

MemGEN:你所需要的一切皆为记忆

机器学习 2018-04-02 v1

摘要

我们提出一种称为深度记忆(Deep Memory)的新学习范式。它有彻底变革机器学习领域的潜力。令人惊讶的是,与深度学习不同,这一范式尚未被重新发明。该方法的核心是世界各地小学中充分研究的“死记硬背”(Learning By Heart)原则。受诗歌背诵或 π\pi 小数记忆的启发,我们提出一种模仿人类行为的具体算法。我们在生成建模任务上实现该范式,并应用于图像、自然语言甚至 π\pi 小数(只要能以文本形式打印)。所提算法甚至在一次性学习设定下生成了本文。在精心设计的实验中,我们表明生成的样本与训练样本在任何统计检验或度量下均无法区分。

关键词

引用

@article{arxiv.1803.11203,
  title  = {MemGEN: Memory is All You Need},
  author = {Sylvain Gelly and Karol Kurach and Marcin Michalski and Xiaohua Zhai},
  journal= {arXiv preprint arXiv:1803.11203},
  year   = {2018}
}