基于扭曲梯度下降的元学习

从数据中学习一种能促进来自同一分布的新任务快速学习的有效更新规则，仍是元学习中的开放问题。典型地，先前工作或通过训练神经网络直接产生更新，或通过学习更好的初始化或梯度更新规则的缩放因子来解决此问题。这两种方法均具挑战：一方面，直接产生更新放弃了有用的归纳偏置，易致不收敛行为；另一方面，控制基于梯度的更新规则的方法通常求助于通过学习过程计算梯度以获得元梯度，导致方法无法扩展到少样本任务适应之外。本工作中，我们提出扭曲梯度下降（WarpGrad），一种介于上述方法之间以缓解其局限的方法。WarpGrad元学习一个高效参数化的预条件矩阵，以促使跨任务分布的梯度下降。预条件通过在任务学习器各层间穿插称为扭曲层的非线性层实现。扭曲层以类似于直接产生更新的方法之方式元学习，无需通过任务训练过程反向传播。WarpGrad计算高效、易实现，且可扩展到任意大规模元学习问题。我们给出了该方法的几何解释，并在包括少样本、标准监督、持续及强化学习等多种设定下评估了其有效性。