BI-MAML:一种用于元学习的平衡增量方法
机器学习
2020-06-16 v1 计算机视觉与模式识别
机器人学
神经元与认知
机器学习
摘要
我们提出了一种新颖的平衡增量模型无关元学习系统(BI-MAML),用于学习多个任务。我们的方法实现了一种元更新规则,以增量方式使其模型适应新任务,同时不遗忘旧任务。这种能力在目前最先进的MAML方法中尚无法实现。这些方法能有效适应新任务,但遭受“灾难性遗忘”现象,即流入模型的新任务会降低模型在先前学习任务上的性能。我们的系统仅需少量样本即可执行元更新,并能成功完成。实现这一点的关键思路是为基线模型设计平衡学习策略。该策略使基线模型在各类任务上表现同样出色,并兼顾时间效率。平衡学习策略使BI-MAML既能在现有任务的分类准确率上优于其他最先进模型,又能以更少的所需样本高效适应相似的新任务。我们通过在两个常用基准数据集上进行多组图像分类任务对比来评估BI-MAML。BI-MAML的性能在准确率和效率方面均展现出优势。
引用
@article{arxiv.2006.07412,
title = {BI-MAML: Balanced Incremental Approach for Meta Learning},
author = {Yang Zheng and Jinlin Xiang and Kun Su and Eli Shlizerman},
journal= {arXiv preprint arXiv:2006.07412},
year = {2020}
}
备注
Please see associated video at: https://youtu.be/4qlb-iG5SFo