少样本学习元学习方法的压力测试
机器学习
2022-03-07 v1 人工智能
摘要
元学习（ML）已成为资源受限（如少样本学习）条件下的一种有前景的学习方法。ML 方法通常提出一种学习可泛化模型的方法论。在这篇进行中的论文中，我们对近期 ML 方法进行压力测试以发现其局限性。具体而言，我们针对不断增加的任务复杂度衡量 ML 方法在少样本学习上的性能。我们的结果显示，ML 的初始化策略（MAML、TAML 和 MetaSGD）性能迅速退化，而令人惊讶的是，采用优化策略的方法（MetaLSTM）表现显著更好。我们进一步证明了以 MAML 方式训练的 ML 优化策略（MetaLSTM++）优于纯优化策略的有效性。我们的实验还表明，ML 的优化策略实现了从简单任务到复杂任务的更高可迁移性。
引用
@article{arxiv.2101.08587,
title = {Stress Testing of Meta-learning Approaches for Few-shot Learning},
author = {Aroof Aimen and Sahil Sidheekh and Vineet Madan and Narayanan C. Krishnan},
journal= {arXiv preprint arXiv:2101.08587},
year = {2022}
}