变分自编码器的对抗训练用于持续零样本学习(A-CZSL)
计算机视觉与模式识别
2021-04-21 v2 机器学习
摘要
现有大多数人工神经网络(ANNs)由于灾难性遗忘而无法持续学习,而人类能够通过保持先前任务的性能来实现持续学习。尽管存储所有先前数据可以缓解该问题,但这需要大量内存,在现实应用中不可行。我们提出了一种更适合实际场景的持续零样本学习模型(A-CZSL),以解决能够顺序学习并区分训练期间未见过类别的问题。此外,为了增强可靠性,我们开发了用于单头持续学习设置的A-CZSL,其中任务身份在训练过程中给出但在测试时不给出。我们提出了一种混合网络,由用于保存所有任务信息的共享VAE模块和每个任务特定的私有VAE模块组成。模型规模随每个任务增长以防止任务特定技能的灾难性遗忘,并包含一种重放方法来保持共享技能。我们证明了我们的混合模型优于基线方法,并在多个数据集(CUB、AWA1、AWA2和aPY)上有效。我们表明我们的方法在具有ZSL(零样本学习)和GZSL(广义零样本学习)的类别顺序学习中具有优越性。
引用
@article{arxiv.2102.03778,
title = {Adversarial Training of Variational Auto-encoders for Continual Zero-shot Learning(A-CZSL)},
author = {Subhankar Ghosh},
journal= {arXiv preprint arXiv:2102.03778},
year = {2021}
}
备注
The paper has been accepted in IJCNN21. It contains 8pages and 10 figures