面向动态迁移学习的统一元学习框架

迁移学习指的是将知识或信息从相关的源任务转移到目标任务。然而，大多数现有工作假设两个任务均从平稳的任务分布中采样，从而导致在真实场景中对从非平稳任务分布抽取的动态任务出现次优性能。为弥补这一差距，本文研究了一种更真实且更具挑战性的动态任务迁移学习设定，即源任务与目标任务随时间持续演化。我们从理论上证明，动态目标任务上的期望误差可由源知识与跨任务的连续分布差异紧密界定。该结果促使我们提出一个通用的元学习框架 L2E，用于建模动态任务上的知识可迁移性。它围绕一个以一组任务元对为中心的任务引导元学习问题，基于此我们能够学习先验模型初始化，以实现对最新目标任务快速适应。L2E 具有以下特性：（1）跨动态任务的有效知识可迁移性；（2）对新目标任务的快速适应；（3）缓解对历史目标任务的灾难性遗忘；（4）灵活集成任何现有静态迁移学习算法。在多种图像数据集上的大量实验证明了所提 L2E 框架的有效性。