生成式二进制记忆：基于二元嵌入的伪重放类递增学习
机器学习
2025-03-14 v1 计算机视觉与模式识别
摘要
在不断涌现新概念的动态环境中，深度神经网络（DNN）必须通过学习新类别的同时保留已获取的旧知识。本挑战由类递增学习（Class-Incremental Learning, CIL）所解决。本文引入了生成式二进制记忆（Generative Binary Memory, GBM），一种新的CIL伪重放方法，通过生成合成二进制伪样本来实现。依托伯努利混合模型（Bernoulli Mixture Model, BMM），GBM有效地建模了类分布的多模态特征，置于潜在的二进制空间中。通过设计的特征二元化器，本方法可适用于任何常规DNN。GBM同时原生支持二进制神经网络（Binary Neural Network, BNN），以满足嵌入式系统中高度受限的模型规模。实验结果表明，GBM在ResNet-18上实现的平均准确率分别在CIFAR100上提升2.9%，TinyImageNet上提升1.5%，显著优于现有方法。此外，GBM在CORE50上的最终准确率优于新兴的BNN CIL方法3.1%，同时实现4.7倍的内存降低。
引用
@article{arxiv.2503.10333,
title = {Generative Binary Memory: Pseudo-Replay Class-Incremental Learning on Binarized Embeddings},
author = {Yanis Basso-Bert and Anca Molnos and Romain Lemaire and William Guicquero and Antoine Dupret},
journal= {arXiv preprint arXiv:2503.10333},
year = {2025}
}