使用在线变分贝叶斯的任务无关持续学习
机器学习
2019-02-13 v3 机器学习
摘要
灾难性遗忘是神经网络在学习过程中对数据分布变化的 notorious 脆弱性。长期以来,这一现象被认为是在现实持续学习环境中使用学习智能体的主要障碍。大量持续学习研究假设训练期间任务边界是已知的。然而,针对训练期间任务边界未知场景的研究一直缺乏。在本文中,我们首次提出了一种在训练期间任务边界未知的场景下防止灾难性遗忘的方法(BGD)——任务无关持续学习。我们的算法代码可在 https://github.com/igolan/bgd 获取。
引用
@article{arxiv.1803.10123,
title = {Task Agnostic Continual Learning Using Online Variational Bayes},
author = {Chen Zeno and Itay Golan and Elad Hoffer and Daniel Soudry},
journal= {arXiv preprint arXiv:1803.10123},
year = {2019}
}