面向不平衡数据的无数据生成式重放用于类增量学习
机器学习
2024-06-14 v1 人工智能
摘要
在机器学习中，尤其是在数据不平衡的图像分类任务中，持续学习是一个具有挑战性的问题，尤其是当需要逐步学习新类别时更为困难。用于解决数据不平衡问题的增量类学习方法之一是使用先前存储数据的再训练。再训练方法需要访问先前数据，用于训练分类器或生成器，但由于存储、法律或数据访问限制，这可能不可行。尽管存在许多针对类增量学习的无再训练备选方案，如参数或损失正则化、知识蒸馏和动态体系结构，但它们在数据不平衡的情况下并不始终达到良好结果。本文提出了一种新方法，称为无数据生成式重放（DFGR），用于类增量学习，其中生成器在没有访问真实数据的情况下进行训练。此外，DFGR 也解决了持续学习中图像分类器数据不平衡的问题。DFGR 使用预训练分类模型中批量规范化和特征图的均值和方差统计来训练生成器，而无需使用训练数据。我们实验的结果表明，DFGR 在其他无数据方法方面表现显著更好，揭示了特定参数设置对性能影响。DFGR 在 MNIST 和 FashionMNIST 数据集上分别实现了最高 88.5% 和 46.6% 的准确率。我们的代码已在 https://github.com/2younis/DFGR 上提供。
引用
@article{arxiv.2406.09052,
title = {Data-Free Generative Replay for Class-Incremental Learning on Imbalanced Data},
author = {Sohaib Younis and Bernhard Seeger},
journal= {arXiv preprint arXiv:2406.09052},
year = {2024}
}