ST-MAML：一种基于随机任务的异构任务元学习方法
机器学习
2021-09-29 v1 机器学习
摘要
基于优化的元学习通常假设任务从单一分布中采样——这一假设过度简化并限制了元学习可建模的任务多样性。由于所谓的任务歧义问题，处理来自多个不同分布的任务对元学习而言具有挑战性。本文提出一种新方法 ST-MAML，使模型无关元学习(MAML)能够从多个任务分布中学习。ST-MAML 使用随机神经网络模块对任务进行编码，以随机表示概括每个任务。所提出的随机任务(ST)策略允许元模型针对当前任务进行定制，并使我们能够学习歧义任务的解的分布。ST-MAML 还传播任务表示以修正输入变量的编码。在经验上，我们证明 ST-MAML 在两个少样本图像分类任务、一个曲线回归基准、一个图像补全问题以及一个真实世界温度预测应用上匹配或优于最先进水平。据作者所知，这是基于优化的元学习方法首次应用于大规模真实世界任务。
引用
@article{arxiv.2109.13305,
title = {ST-MAML: A Stochastic-Task based Method for Task-Heterogeneous Meta-Learning},
author = {Zhe Wang and Jake Grigsby and Arshdeep Sekhon and Yanjun Qi},
journal= {arXiv preprint arXiv:2109.13305},
year = {2021}
}