在线终身广义零样本学习
计算机视觉与模式识别
2022-09-27 v2 人工智能
摘要
文献中提出的零样本学习(ZSL)方法通常适用于离线学习，无法从顺序流数据中持续学习。顺序数据在训练期间以任务形式到来。最近，已有少量尝试处理此问题并开发持续ZSL(CZSL)方法。然而，这些CZSL方法在训练时需要任务间的清晰任务边界信息，这在实际中不可能实现。本文提出一种无任务（即任务不可知）的CZSL方法，其在持续学习期间不需要任何任务信息。所提出的无任务CZSL方法采用变分自编码器(VAE)来执行ZSL。为开发CZSL方法，我们将经验回放与知识蒸馏及正则化的概念相结合。此处，知识蒸馏利用训练样本的暗知识进行，这从根本上有助于克服灾难性遗忘问题。此外，借助短期记忆实现了无任务学习。最后，在VAE潜空间生成的合成特征上训练分类器。而且，实验在具有挑战性且实用的ZSL设定即广义ZSL(GZSL)下进行。这些实验针对两类单头持续学习设定开展：(i)温和设定——任务边界仅在训练时已知而测试时未知；(ii)严格设定——训练与测试时均未知任务边界。在五个基准数据集上的实验结果展现了该方法对于CZSL的有效性。
引用
@article{arxiv.2103.10741,
title = {Online Lifelong Generalized Zero-Shot Learning},
author = {Chandan Gautam and Sethupathy Parameswaran and Ashish Mishra and Suresh Sundaram},
journal= {arXiv preprint arXiv:2103.10741},
year = {2022}
}