基于深度核的贝叶斯元学习用于小样本场景
机器学习
2020-10-14 v4 机器学习
摘要
近年来，不同的机器学习方法被引入以应对具有挑战性的小样本学习场景，即从与特定任务相关的小型标记数据集中学习。常见的方法采用元学习的形式：学习在旧问题的基础上学习新问题。在认识到元学习是在多级模型中实现学习之后，我们通过使用深度核为元学习内循环提出了一种贝叶斯处理方法。因此，我们可以学习一个能够迁移到新任务的核；我们称之为深度核迁移（DKT）。这种方法有许多优点：易于实现为单个优化器，提供不确定性量化，并且不需要估计任务特定参数。我们通过实验证明，DKT在小样本分类中优于几种最先进的算法，并且在跨领域适应和回归方面达到了最先进的水平。我们得出结论，复杂的元学习流程可以被更简单的贝叶斯模型取代，而不会损失准确性。
引用
@article{arxiv.1910.05199,
title = {Bayesian Meta-Learning for the Few-Shot Setting via Deep Kernels},
author = {Massimiliano Patacchiola and Jack Turner and Elliot J. Crowley and Michael O'Boyle and Amos Storkey},
journal= {arXiv preprint arXiv:1910.05199},
year = {2020}
}
备注
Advances in Neural Information Processing Systems (NeurIPS 2020, Spotlight)