学习生成虚构任务以提升元学习泛化能力
机器学习
2022-06-10 v1
摘要
元学习在现有基准上的成功依赖于一个假设：元训练任务的分布覆盖元测试任务。在应用中，当任务不足或元训练任务分布过窄时，该假设常被违背，导致记忆化或学习器过拟合。近期解决方案致力于扩充元训练任务，然而如何生成既正确又充分虚构的任务仍是一个开放问题。本文寻求一种通过任务上采样网络从任务表示中上采样元训练任务的方法。此外，所得名为对抗任务上采样（ATU）的方法足以通过最大化对抗损失来生成能最大贡献于最新元学习器的任务。在少样本正弦回归与图像分类数据集上，我们经实证验证了 ATU 在元测试性能及上采样任务质量上相对最先进任务扩充策略的显著提升。
引用
@article{arxiv.2206.04335,
title = {Learning to generate imaginary tasks for improving generalization in meta-learning},
author = {Yichen Wu and Long-Kai Huang and Ying Wei},
journal= {arXiv preprint arXiv:2206.04335},
year = {2022}
}