基于表征与注意力增强的元学习

基于深度学习的计算机视觉在标注图像稀缺时无法工作。近来，元学习算法已被证实是提升计算机视觉从少量图像学习能力的 promising 途径。然而，以往的元学习方法暴露出如下问题：1）忽视了注意力机制对元学习器的重要性；2）未赋予元学习器善用过往知识的能力，而这些知识有助于将图像表达为高阶表征，导致元学习器不得不直接从原始高维 RGB 图像解决少样本学习任务。本文中，我们认为注意力机制与过往知识对元学习器至关重要，且元学习器应在 RGB 图像的高阶表征上而非直接在原始图像上训练。基于这些论点，我们提出两种方法：注意力增强元学习（AML）与基于表征和注意力增强的元学习（RAML）。AML 方法旨在通过显式将注意力模型嵌入其网络来提升元学习器的注意力能力。RAML 方法旨在赋予元学习器利用已学过往知识通过将原始输入数据表达为高阶表征来降维的能力，并帮助元学习器表现良好。大量实验证明了所提模型的有效性，在多个少样本学习基准上取得了最先进的少样本学习性能。我们提出方法的源代码将很快发布，以促进对上述问题的进一步研究。