虫洞MAML:黏合参数空间中的元学习
机器学习
2023-01-02 v1 人工智能
摘要
本文中,我们介绍了模型无关元学习(model-agnostic meta-learning)的一种新变体,其在内循环适应中引入了一个额外的乘性参数。我们的变体在参数空间中为内循环适应创建了一条捷径,并以高度可控的方式增加了模型表达能力。我们从理论和数值上表明,我们的变体缓解了冲突梯度问题并改善了训练动态。我们在3个迥异问题上进行了实验,包括用于阈值比较的玩具分类问题、用于小波变换的回归问题,以及MNIST上的分类问题。我们还讨论了将我们的方法推广到更广泛问题类的方式。
引用
@article{arxiv.2212.14094,
title = {Wormhole MAML: Meta-Learning in Glued Parameter Space},
author = {Chih-Jung Tracy Chang and Yuan Gao and Beicheng Lou},
journal= {arXiv preprint arXiv:2212.14094},
year = {2023}
}