无任务边界的完全在线元学习
机器学习
2022-02-21 v3 计算机视觉与模式识别
摘要
尽管深度网络可以学习分类器、检测器和跟踪器等复杂函数，许多应用要求模型持续适应变化的输入分布、变化的任务以及变化的环境条件。事实上，这种在持续场景中不断积累知识并利用过往经验快速学习新任务的能力是智能系统的关键属性之一。对于复杂高维问题，仅用梯度下降等标准学习算法持续更新模型可能导致适应缓慢。元学习可提供加速适应的强大工具，但 conventionally 在批量设置中研究。本文研究如何将元学习应用于应对此类在线问题，同时适应变化的任务与输入分布，并对模型进行元训练以便未来更快适应。将元学习扩展至在线设置自有其挑战，尽管若干已有方法研究了相关问题，它们通常需要离散的任务概念及已知的真实任务边界。此类方法通常按顺序适应每个任务，在任务间重置模型，而非跨任务连续适应。在许多真实场景中，此类离散边界不可得，甚至可能不存在。为应对这些场景，我们提出完全在线元学习(Fully Online Meta-Learning, FOML)算法，其不需要任何关于任务边界的真实知识，且保持完全在线而不重置回预训练权重。我们的实验表明，在Rainbow-MNIST、CIFAR100与CELEBA数据集上，FOML比最先进的在线学习方法更快学会新任务。
引用
@article{arxiv.2202.00263,
title = {Fully Online Meta-Learning Without Task Boundaries},
author = {Jathushan Rajasegaran and Chelsea Finn and Sergey Levine},
journal= {arXiv preprint arXiv:2202.00263},
year = {2022}
}