基于元学习的快速上下文自适应
机器学习
2019-06-11 v4 机器学习
摘要
我们提出用于元学习的 CAVIA,它是 MAML 的一个简单扩展,更不易发生元过拟合,更易于并行化,且更具可解释性。CAVIA 将模型参数划分为两部分:作为模型额外输入并在各个任务上自适应的上下文参数,以及经元训练并在任务间共享的共享参数。在测试时,仅更新上下文参数,从而产生低维任务表示。我们通过实验表明,CAVIA 在回归、分类和强化学习上优于 MAML。我们的实验也突显了当前基准的不足,即某些情况下所需的自适应量很小。
引用
@article{arxiv.1810.03642,
title = {Fast Context Adaptation via Meta-Learning},
author = {Luisa M Zintgraf and Kyriacos Shiarlis and Vitaly Kurin and Katja Hofmann and Shimon Whiteson},
journal= {arXiv preprint arXiv:1810.03642},
year = {2019}
}
备注
Published at the International Conference on Machine Learning (ICML) 2019