中文

ALPaCA 与基于 GP 的先验学习:两种贝叶斯元学习算法的比较

机器学习 2020-10-19 v1

摘要

元学习或少样本学习已成功应用于从计算机视觉到强化学习的广泛领域。在众多提出的元学习框架中,当需要有准确且经过校准的不确定性估计时,贝叶斯方法尤其受到青睐。在本文中,我们研究了两种近期发表的贝叶斯元学习方法之间的相似性与差异:ALPaCA(Harrison 等人 [2018])和 PACOH(Rothfuss 等人 [2020])。我们提供了理论分析以及在合成与真实世界数据集上的实证基准测试。虽然 ALPaCA 通过使用线性核在计算时间上具有优势,但基于通用高斯过程(GP)的方法在使用如 SE(平方指数)核这样的通用核时提供了更大的灵活性,并在各数据集上取得更好的结果。不同损失函数选择的影响也进行了讨论。

关键词

引用

@article{arxiv.2010.07994,
  title  = {ALPaCA vs. GP-based Prior Learning: A Comparison between two Bayesian Meta-Learning Algorithms},
  author = {Yilun Wu},
  journal= {arXiv preprint arXiv:2010.07994},
  year   = {2020}
}