基于线性判别 Laplace 逼近的高斯过程元少样本分类器学习
机器学习
2021-12-14 v2
摘要
元学习少样本分类是机器学习中新兴且近期备受关注的问题，其目标是学习一个仅需少量标注数据即可快速适应新任务的模型。我们考虑贝叶斯高斯过程（GP）方法，其中我们元学习 GP 先验，并通过后验推断的 GP 预测模型实现对新任务的适应。我们采用 Laplace 后验逼近，但为避免寻找 MAP 解所需的迭代梯度步骤，引入一种新颖的线性判别分析（LDA）插件作为 MAP 解的替代。本质上，MAP 解由 LDA 估计逼近，但为考虑 GP 先验，我们采用先验范数调整来估计 LDA 的共享方差参数，从而确保调整后的估计与 GP 先验一致。这使得闭式可微分的 GP 后验与预测分布成为可能，从而实现快速元训练。我们展示了相较先前方法的显著改进。
引用
@article{arxiv.2111.05392,
title = {Gaussian Process Meta Few-shot Classifier Learning via Linear Discriminant Laplace Approximation},
author = {Minyoung Kim and Timothy Hospedales},
journal= {arXiv preprint arXiv:2111.05392},
year = {2021}
}
备注
Rev1