用于少任务元学习的基于集合的元插值

元学习方法通过利用来自相关任务的知识，使机器学习系统能用少量样本适应新任务。然而，元测试时对未见过任务的泛化仍需要大量元训练任务，这对因任务构建困难与成本等种种原因仅含少量任务的现实问题引入了关键瓶颈。近来，若干任务增强方法被提出以利用领域特定知识设计增强技术来稠密化元训练任务分布。然而，此类对领域特定知识的依赖使这些方法无法适用于其他领域。尽管基于 Manifold Mixup 的任务增强方法是领域无关的，我们经验性地发现它们在非图像领域无效。为应对这些局限，我们提出了一种新颖的领域无关任务增强方法——Meta-Interpolation，其利用具表达力的神经集合函数通过双层优化稠密化元训练任务分布。我们在涵盖图像分类、分子属性预测、文本分类与语音识别等多个领域的八个数据集上经验性验证了 Meta-Interpolation 的效能。实验上，我们展示 Meta-Interpolation 持续优于所有相关基线。理论上，我们证明了使用集合函数的任务插值正则化元学习器以改善泛化。