MetaKernel：在有限标签下学习变分随机特征
机器学习
2021-05-11 v1 计算机视觉与模式识别
摘要
少样本学习处理从少量标注样本学习并能在新任务上良好泛化的基本且具挑战性的问题。少样本学习的关键是从相关任务中提取先验知识，以在有限数据下快速适应新任务。本文中，我们提出用于少样本学习的带随机傅里叶特征的元学习核，称为 MetaKernel。具体而言，我们提出以数据驱动方式学习变分随机特征，通过在元学习设置中利用相关任务提供的共享知识来获得特定任务的核。我们将随机特征基视为潜变量，通过变分推断估计。来自相关任务的共享知识被纳入后验的上下文推断中，我们通过长短期记忆模块实现这一点。为建立更具表达力的核，我们部署基于耦合层的条件归一化流，以实现随机傅里叶基上更丰富的后验分布。所得核更具信息性和判别性，进一步改进了少样本学习。为评估我们的方法，我们在少样本图像分类和回归任务上进行了大量实验。彻底的消融研究证明了我们方法中每个引入组件的有效性。在十四个数据集上的基准结果表明，MetaKernel 始终提供至少可比且通常优于最先进替代方法的性能。
引用
@article{arxiv.2105.03781,
title = {MetaKernel: Learning Variational Random Features with Limited Labels},
author = {Yingjun Du and Haoliang Sun and Xiantong Zhen and Jun Xu and Yilong Yin and Ling Shao and Cees G. M. Snoek},
journal= {arXiv preprint arXiv:2105.03781},
year = {2021}
}
备注
19 pages,7 figures. arXiv admin note: substantial text overlap with arXiv:2006.06707