CFTS-GAN：用于生成对抗网络的持续小样本师生学习
机器学习
2024-10-22 v1 计算机视觉与模式识别
摘要
小样本学习和持续学习在生成对抗网络（GAN）中面临两个众所周知的挑战：过拟合和灾难性遗忘。学习新任务会导致深度学习模型中的灾难性遗忘。在小样本设置中，模型从非常有限的样本（例如10个样本）中学习，这可能导致过拟合和模式崩溃。因此，本文提出了一种用于生成对抗网络的持续小样本师生学习技术（CFTS-GAN），该技术同时考虑了这两个挑战。我们的CFTS-GAN使用一个适配器模块作为学生来学习新任务，而不影响先前的知识。为了使学生在学习新任务时更高效，教师模型的知识被蒸馏给学生。此外，教师和学生都使用跨域对应（CDC）损失来促进多样性并避免模式崩溃。此外，还利用了一种有效的冻结判别器的策略来提升性能。定性和定量结果表明，与非常强大的最先进模型相比，我们的方法能够合成更多样化的图像，并产生质量相对较好的定性样本。
引用
@article{arxiv.2410.14749,
title = {CFTS-GAN: Continual Few-Shot Teacher Student for Generative Adversarial Networks},
author = {Munsif Ali and Leonardo Rossi and Massimo Bertozzi},
journal= {arXiv preprint arXiv:2410.14749},
year = {2024}
}