中文

利用 GNN 去噪自编码器生成分类权重以用于小样本学习

计算机视觉与模式识别 2019-05-06 v1 机器学习

摘要

给定一个已在一组基类上训练好的初始识别模型,本工作的目标是开发一个用于小样本学习的元模型。该元模型以每类仅含少量训练样本的若干新类作为输入,必须将现有的识别模型适当地调整为一个新模型,使其能够以统一的方式正确分类新类和基类。为实现这一目标,它必须学会为这两类类别输出合适的分类权重向量。为了构建我们的元模型,我们采用了两项主要创新:我们提出使用去噪自编码器网络(DAE),在训练过程中以被高斯噪声破坏的分类权重集作为输入,并学习重建具有目标判别性的分类权重。在这种情况下,注入到分类权重中的噪声起到了正则化权重生成元模型的作用。此外,为了在元模型的给定任务实例中捕获不同类别之间的相互依赖关系,我们提出将 DAE 模型实现为图神经网络(GNN)。为了验证我们方法的有效性,我们在基于 ImageNet 的小样本基准上进行了广泛评估,并报告了超越先前方法的优异结果。本文的代码和模型将发布于:https://github.com/gidariss/wDAE_GNN_FewShot

关键词

引用

@article{arxiv.1905.01102,
  title  = {Generating Classification Weights with GNN Denoising Autoencoders for Few-Shot Learning},
  author = {Spyros Gidaris and Nikos Komodakis},
  journal= {arXiv preprint arXiv:1905.01102},
  year   = {2019}
}

备注

Oral presentation at CVPR 2019. The code and models of our paper will be published on: https://github.com/gidariss/wDAE_GNN_FewShot