MAML 是否仅通过特征重用起作用？一个以数据为中心的视角

近期研究表明，要解决许多少样本学习基准，我们所需的仅仅是一个好的嵌入。此外，其他工作强烈暗示模型无关元学习（MAML）也通过同样的方法——学习一个好的嵌入——来起作用。这些观察凸显了我们对元学习算法在做什么以及何时起作用缺乏理解。本工作中，我们提供实证结果，以阐明元学习得到的 MAML 表征如何运作。具体而言，我们识别出三个有趣的性质：1）与先前工作相反，我们表明可以定义一类合成基准，其导致低程度的特征重用——暗示当前的少样本学习基准可能不具备元学习算法成功所需的属性；2）当类别（或概念）数量有限时会发生元过拟合，而一旦任务具有无界数量的概念（例如在线学习），此问题便消失；3）在元测试时用 MAML 进行更多自适应并不一定导致显著的表征变化甚至元测试性能的提升——即便在我们提出的合成基准上训练时也是如此。最后，我们建议，为了更好地理解元学习算法，我们必须超越仅追踪绝对性能，此外还需形式化量化元学习的程度并同时追踪这两项指标。未来工作以这种方式报告结果将帮助我们更准确地识别元过拟合的来源，并帮助我们设计更灵活的、能超越固定特征重用的元学习算法。最后，我们猜想重新思考元学习的核心挑战在于少样本学习数据集与基准的设计——而非如先前工作所暗示的在于算法。