VIABLE:通过反向传播学习损失实现快速适应
机器学习
2019-12-02 v1 机器学习
摘要
在小样本学习中,通常在测试时应用的损失函数是我们最终希望最小化的那个,例如回归问题的均方误差损失。然而,鉴于测试时样本极少,我们认为所感兴趣的最小化损失函数未必是最适合在小样本设置下计算梯度的损失函数。我们提出 VIABLE,一种通用的元学习扩展,它基于现有的元梯度方法,通过学习一个可微损失函数,在执行任务特定更新时替代预定义的内循环损失函数。我们表明,学习一个能够利用样本间关系信息的损失函数可减轻欠拟合,并显著提升在简单回归任务上的性能与样本效率。此外,我们通过在 Mini-Imagenet 数据集上评估表明 VIABLE 具有可扩展性。
引用
@article{arxiv.1911.13159,
title = {VIABLE: Fast Adaptation via Backpropagating Learned Loss},
author = {Leo Feng and Luisa Zintgraf and Bei Peng and Shimon Whiteson},
journal= {arXiv preprint arXiv:1911.13159},
year = {2019}
}
备注
Published at the 3rd Workshop on Meta-Learning at NeurIPS 2019