基于零样本翻译的增量嵌入学习
计算机视觉与模式识别
2021-01-01 v1
摘要
现代深度学习方法通过学习的预定义数据集在机器学习和计算机视觉领域取得了巨大成功。然而，这些方法应用于真实世界场景时表现不佳。这一现象的原因在于学习新任务会导致训练好的模型迅速遗忘旧任务的知识，这被称为灾难性遗忘。当前最先进的增量学习方法在传统分类网络中解决灾难性遗忘问题，而忽略了嵌入网络中存在的问题，嵌入网络是图像检索、人脸识别、零样本学习等的基础网络。与传统增量分类网络不同，两个相邻任务的嵌入空间之间的语义鸿沟是增量学习设置下嵌入网络的主要挑战。因此，我们提出了一种新颖的面向嵌入网络的类增量方法，称为零样本翻译类增量方法（ZSTCI），其利用零样本翻译在无任何样本的情况下估计并补偿语义鸿沟。然后，我们试图在顺序学习过程中为两个相邻任务学习统一表示，从而精确捕捉先前类别与当前类别的关系。此外，ZSTCI 可轻松与现有的基于正则化的增量学习方法结合以进一步提升嵌入网络性能。我们在 CUB-200-2011 和 CIFAR100 上进行了大量实验，实验结果证明了我们方法的有效性。我们已发布方法的代码。
引用
@article{arxiv.2012.15497,
title = {Incremental Embedding Learning via Zero-Shot Translation},
author = {Kun Wei and Cheng Deng and Xu Yang and Maosen Li},
journal= {arXiv preprint arXiv:2012.15497},
year = {2021}
}
备注
9 page