基于自编码器的混合式重放用于类别递增学习
机器学习
2025-05-19 v3
摘要
在类别递增学习 (CIL) 中,有效的递增学习策略对于缓解任务混淆和灾难性遗忘尤为重要,特别是当任务数量 增加时。当前的 exemplar 重放策略要求 的内存/计算复杂度。我们提出了一种基于自编码器的混合式重放 (AHR) 策略,利用我们新的混合自编码器 (HAE) 作为压缩器,以减轻大内存需求,实现最坏情况下的 内存/计算复杂度,同时实现了state-of-the-art性能。解码器稍后从潜在空间恢复 exemplar 数据,而非以原始格式。此外,HAE 设计用于判别模型和生成模型,分别实现分类和重放功能。HAE 采用带电粒子系统能量最小化方程和排斥力算法,用于其潜在空间中新类质心的递增嵌入和分布。我们的结果表明,AHR 在多个基准测试上 consistently 超过最新的基线方法,同时在相同的内存/计算预算下运行。源代码已包含在补充材料中,并将在发表后开源。
引用
@article{arxiv.2505.05926,
title = {Autoencoder-Based Hybrid Replay for Class-Incremental Learning},
author = {Milad Khademi Nori and Il-Min Kim and Guanghui Wang},
journal= {arXiv preprint arXiv:2505.05926},
year = {2025}
}
备注
Accepted ICML 2025