多带 VAE:用于持续学习中知识巩固的潜空间对齐
机器学习
2022-06-06 v2 计算机视觉与模式识别
摘要
我们提出了一种通过变分自编码器潜空间重对齐实现无监督生成式持续学习的新方法。深度生成模型与其他神经结构一样遭受灾难性遗忘。近期的生成式持续学习工作探讨此问题,并试图在不遗忘先前知识的情况下从新数据中学习。然而,这些方法通常聚焦于人工场景,其中数据块之间样本几乎无相似性——这一假设在持续学习的现实应用中并不现实。本工作中,我们指出了该局限,并将生成式持续学习的目标确立为知识积累任务。我们通过持续对齐新数据的潜表示来解决它,我们称这些表示为附加潜空间中的带,其中样本独立于其源任务进行编码。此外,我们引入了一种受控遗忘过去数据的方法以简化该过程。在标准持续学习基准之外,我们提出了一种新颖且具有挑战性的知识巩固场景,并表明所提方法在所有实验及额外的现实评估中以最高达两倍的优势优于 SOTA。据我们所知,多带 VAE 是首个在生成式持续学习中展示前向与后向知识迁移的方法。
引用
@article{arxiv.2106.12196,
title = {Multiband VAE: Latent Space Alignment for Knowledge Consolidation in Continual Learning},
author = {Kamil Deja and Paweł Wawrzyński and Wojciech Masarczyk and Daniel Marczak and Tomasz Trzciński},
journal= {arXiv preprint arXiv:2106.12196},
year = {2022}
}