函数空间中元学习可靠先验
机器学习
2022-01-12 v2 人工智能
机器学习
摘要
当数据稀缺时，元学习可通过利用来自相关学习任务的先前经验来提高学习器的准确率。然而，现有方法的的不确定性估计不可靠，常常过于自信。针对这些缺陷，我们引入了一种称为 F-PACOH 的新型元学习框架，该框架将元学习到的先验视为随机过程，并直接在函数空间中进行元级正则化。这使我们能够直接将元学习器的概率预测引导至元训练数据不足区域的高认知不确定性，从而获得良好校准的不确定性估计。最后，我们展示了我们的方法如何与序列决策制定相集成，其中可靠的不确定性量化至关重要。在我们针对贝叶斯优化（BO）的元学习基准研究中，F-PACOH 显著优于所有其他元学习器和标准基线。
引用
@article{arxiv.2106.03195,
title = {Meta-Learning Reliable Priors in the Function Space},
author = {Jonas Rothfuss and Dominique Heyn and Jinfan Chen and Andreas Krause},
journal= {arXiv preprint arXiv:2106.03195},
year = {2022}
}
备注
In Advances of Neural Information Processing Systems (NeurIPS) 2021