基于在线协作记忆的连续变分自编码器学习
机器学习
2022-07-22 v1 人工智能
计算机视觉与模式识别
摘要
由于其推断、数据表示与重构特性，变分自编码器（VAE）已成功应用于连续学习分类任务。然而，其在连续学习（CL）过程中生成与所学类别和数据库相对应规格图像的能力尚不明晰，且灾难性遗忘仍是一大挑战。本文首先通过分析 VAE 的遗忘行为，构建了一个新的理论框架，将 CL 表述为动态最优传输问题。该框架在无需任务信息的情况下证明了数据似然的近似界，并解释了先验知识在训练过程中如何丢失。我们随后提出一种新颖的记忆缓冲方法，即在线协作记忆（OCM）框架，其由持续存储近期样本以向模型提供未来信息的短期记忆（STM）和旨在保留广泛样本多样性的长期记忆（LTM）组成。所提 OCM 根据信息多样性选择准则将部分样本从 STM 转移至 LTM，无需任何监督信号。该 OCM 框架随后与动态 VAE 扩展混合网络相结合，以进一步提升性能。
引用
@article{arxiv.2207.10131,
title = {Continual Variational Autoencoder Learning via Online Cooperative Memorization},
author = {Fei Ye and Adrian G. Bors},
journal= {arXiv preprint arXiv:2207.10131},
year = {2022}
}
备注
Accepted by European Conference on Computer Vision 2022 (ECCV 2022)