广义持续零样本学习
计算机视觉与模式识别
2021-02-02 v3
摘要
近年来,零样本学习(ZSL)作为一个令人振奋的研究方向涌现并引起了广泛关注。ZSL旨在基于类别描述将知识从已见类迁移到未见类以分类未见类。尽管表现出有前景的性能,ZSL方法假设训练时所有已见类的训练样本均可用,这在实际中并不可行。为解决此问题,我们提出了一种更广义且实用的ZSL设定,即持续零样本学习(CZSL),其中类别以任务的形式顺序到达,并通过利用过往经验从变化的环境中主动学习。进一步地,为增强可靠性,我们针对单头持续学习设定开发了CZSL,其中任务身份在训练过程中已知但在测试时未知。为避免灾难性遗忘与固步自封,我们使用知识蒸馏,并利用小型情景记忆存储和回放来自先前任务的少量样本。我们建立了基线方法,并在五个ZSL基准数据集上针对两种持续学习设定(含类增量与不含类增量)评估了广义CZSL。此外,CZSL针对两类变分自编码器开发,其生成两类用于分类的特征:(i)输出空间中的生成特征;(ii)隐空间中的生成判别特征。实验结果清楚地表明单头CZSL具有更强的泛化能力,更适合实际应用。
引用
@article{arxiv.2011.08508,
title = {Generalized Continual Zero-Shot Learning},
author = {Chandan Gautam and Sethupathy Parameswaran and Ashish Mishra and Suresh Sundaram},
journal= {arXiv preprint arXiv:2011.08508},
year = {2021}
}
备注
Zero-shot Learning, Continual Learning, Incremental Learning