基于共享摊销变分推断的元学习
机器学习
2020-08-31 v1 计算机视觉与模式识别
机器学习
摘要
我们为经验贝叶斯元学习模型提出一种新颖的摊销变分推断方案,其中模型参数被视为潜变量。我们使用变分自编码器方法,基于有限训练数据学习模型参数上的先验分布。我们的框架提出在模型参数上的条件先验与变分后验分布之间共享同一摊销推断网络。后验利用有标签支持集与查询数据,而条件先验仅基于有标签支持数据。我们指出,在早期依赖蒙特卡洛近似的工作中,条件先验坍缩为狄拉克δ函数。相反,我们的变分方法防止了此种坍缩并保留了模型参数上的不确定性。我们在 miniImageNet、CIFAR-FS 和 FC100 数据集上评估了我们的方法,并给出证明其优于先前工作的结果。
引用
@article{arxiv.2008.12037,
title = {Meta-Learning with Shared Amortized Variational Inference},
author = {Ekaterina Iakovleva and Jakob Verbeek and Karteek Alahari},
journal= {arXiv preprint arXiv:2008.12037},
year = {2020}
}
备注
ICML 2020