具有梯度增强的合作元学习

模型无关元学习（MAML）是最广泛使用的基于梯度的元学习方法之一，包含两个优化循环：内循环和外循环。MAML通过内更新从元初始化参数学习新任务，并在外循环中寻找元初始化参数。通常，向模型梯度注入噪声以增强梯度是广泛使用的正则化方法之一。在这项工作中，我们提出了一种新颖的合作元学习框架，称为CML，它利用带有梯度增强的梯度级正则化。我们将可学习的噪声注入模型梯度以实现模型泛化。CML的关键思想是引入一个合作学习者，它没有内更新但有外循环更新，以增强梯度从而找到更好的元初始化参数。由于合作学习者在内循环中不更新，它可以在元训练后轻松删除。因此，CML仅使用元学习器进行推理，没有额外成本且性能不下降。我们证明CML易于应用于基于梯度的元学习方法，并且在少样本回归、少样本图像分类和少样本节点分类任务中提高了性能。我们的代码位于https://github.com/JJongyn/CML。