CoLoR-GAN：基于生成对抗网络中低秩适应的持续少样本学习
机器学习
2025-10-17 v1 人工智能
摘要
在生成对抗网络 (GAN) 的持续学习 (CL) 背景下，尤其是在无需灾难性遗忘的情况下从少量样本 (FS) 中学习，仍是一个具有挑战性的问题。当前最有效的 SOTA 方法，如 LFS-GAN，引入了大量新的权重以进行每个训练迭代，这在考虑长期使用时将变得显著。为了此原因，本文引入了continual few-shot learning with low-rank adaptation in GANs，称为 CoLoR-GAN，一个旨在同时处理 FS 和 CL 的框架，利用低秩张量高效地适应模型以针对目标任务，同时进一步减少所需参数的数量。应用 vanilla LoRA 实现已经使我们获得了相当好的结果。为了进一步优化适配器的大小，我们挑战了 LoRA 的限制，引入一种用于卷积层的 LoRA in LoRA (LLoRA) 技术。最后，鉴于 LoRA 超参数选择的关键性，我们提供了一项经验研究，以轻松找到最佳参数。我们通过在多个基准 CL 和 FS 任务上的实验显示示了 CoLoR-GAN 的有效性，我们的模型高效，达到了 SOTA 水平，但所需资源数量大幅减少。源代码可在 Github 上获取。
引用
@article{arxiv.2510.13869,
title = {CoLoR-GAN: Continual Few-Shot Learning with Low-Rank Adaptation in Generative Adversarial Networks},
author = {Munsif Ali and Leonardo Rossi and Massimo Bertozzi},
journal= {arXiv preprint arXiv:2510.13869},
year = {2025}
}