用于预测的元学习概率推断
机器学习
2020-07-14 v4 机器学习
摘要
本文引入了一个用于数据高效且通用学习的框架。具体而言：1) 我们开发了 ML-PIP，一个用于预测的元学习近似概率推断的通用框架。ML-PIP 扩展了现有的元学习的概率解释，以涵盖广泛的方法类别。2) 我们引入了 VERSA，该框架的一个实例，它采用了一个灵活且通用的摊销网络，该网络将少样本学习数据集作为输入，具有任意数量的样本，并在单次前向传播中输出特定任务参数的分布。VERSA 用通过推断网络的前向传播代替了测试时的优化，摊销了推断成本，并减轻了训练期间对二阶导数的需求。3) 我们在基准数据集上评估了 VERSA，该方法创造了新的 SOTA 结果，能够处理任意数量的样本，并且对于分类任务，在训练和测试时能处理任意数量的类别。随后通过一项具有挑战性的少样本 ShapeNet 视角重建任务展示了该方法的强大能力。
引用
@article{arxiv.1805.09921,
title = {Meta-Learning Probabilistic Inference For Prediction},
author = {Jonathan Gordon and John Bronskill and Matthias Bauer and Sebastian Nowozin and Richard E. Turner},
journal= {arXiv preprint arXiv:1805.09921},
year = {2020}
}
备注
International Conference on Learning Representations (ICLR) 2019