通过任务插值以更少任务进行元学习
机器学习
2022-03-18 v2
摘要
元学习通过迁移先前习得的知识,使算法仅借助少量标注样本即可快速学习新遇到的任务。然而,当前元学习算法的瓶颈在于需要大量元训练任务,而真实场景中可能无法获取。为应对可用任务可能无法稠密采样任务空间这一挑战,我们提出通过插值扩充任务集。通过任务插值元学习(MLTI),我们的方法有效地通过随机采样一对任务并插值相应特征与标签来生成额外任务。在基于梯度与基于度量的元学习设定下,我们的理论分析表明MLTI对应于数据自适应的元正则化并进一步提升泛化能力。在实证中,我们在涵盖图像识别、姿态预测、分子性质预测与医学图像分类等多样领域的八个数据集上的实验发现,所提出的通用MLTI框架兼容代表性元学习算法,并持续优于其他最先进策略。
引用
@article{arxiv.2106.02695,
title = {Meta-Learning with Fewer Tasks through Task Interpolation},
author = {Huaxiu Yao and Linjun Zhang and Chelsea Finn},
journal= {arXiv preprint arXiv:2106.02695},
year = {2022}
}
备注
Accepted by ICLR 2022 (Oral)