持续学习机中的即时学习
机器学习
2015-09-30 v3
摘要
尽管类脑机器学习前景广阔,但深度神经网络(DNN)令人沮丧地未能弥合学习与记忆之间看似微妙实则巨大的鸿沟。在此,我们引入一种持续学习机;这是一种新型 DNN,能够实现类脑的动态“即时”学习,因为它处于持续随机梯度下降的自监督状态。因此,我们提供了在机器学习框架内统一学习与记忆的方法。我们还探讨了抽象与综合之间优雅的对偶性:深度学习的阴阳两面。
引用
@article{arxiv.1509.00913,
title = {On-the-Fly Learning in a Perpetual Learning Machine},
author = {Andrew J. R. Simpson},
journal= {arXiv preprint arXiv:1509.00913},
year = {2015}
}