扩散驱动的数据重放：用于联邦类持续学习中抗遗忘的新方法
机器学习
2024-09-05 v2 计算机视觉与模式识别
摘要
联邦类持续学习 (FCCL) 融合了分布式客户端学习与无缝适应新类别而不遗忘旧类别的挑战。FCCL 的关键挑战是灾难性遗忘，已在持续学习 (CL) 中探索。然而，由于隐私保护要求，某些常规方法（如经验回放）无法直接应用于 FCCL。现有 FCCL 方法通过生成 GAN 或数据自由知识蒸馏生成历史数据来缓解遗忘，但这些方法常因生成器训练不稳定或生成数据质量低而受限。为此，我们提出一种基于扩散模型的数据回放方法。不训练扩散模型，而是采用预训练的条件扩散模型，对每个类别进行逆向工程，搜索模型输入空间中对应每个类别的输入条件，显著减少计算资源和时间消耗，同时确保有效生成。此外，通过对比学习增强分类器在生成数据和真实数据上的域泛化能力，从而间接提高生成数据对真实数据的表示能力。全面实验表明，我们的方法显著优于现有基线。代码已公开 https://github.com/jinglin-liang/DDDR。
引用
@article{arxiv.2409.01128,
title = {Diffusion-Driven Data Replay: A Novel Approach to Combat Forgetting in Federated Class Continual Learning},
author = {Jinglin Liang and Jin Zhong and Hanlin Gu and Zhongqi Lu and Xingxing Tang and Gang Dai and Shuangping Huang and Lixin Fan and Qiang Yang},
journal= {arXiv preprint arXiv:2409.01128},
year = {2024}
}
备注
Accepted by ECCV 2024 Oral