元学习中的困难片段研究
机器学习
2021-10-22 v1 计算机视觉与模式识别
摘要
现有的元学习器主要关注提升多个片段（episode）间的平均任务准确率。然而，不同片段在难度和质量上可能存在差异，导致元学习器在各片段上的表现差距很大。在工业级少样本场景中理解这一问题尤为关键，因为测试片段通常由终端用户上传，难以控制。本文在 CIFAR-FS、mini-ImageNet 和 tiered-ImageNet 三个标准基准数据集上，对元学习器在不同难度片段上的行为进行了实证分析。令人惊讶的是，我们在所有标准基准和元学习器上都观察到最难与最简单片段之间约 50% 的准确率差距。此外，我们研究了困难片段的多种性质，并揭示了它们与元训练过程中灾难性遗忘的联系。为解决困难片段上表现不佳的问题，我们基于对抗训练和课程学习调研并基准测试了不同的元训练策略。我们发现，在提升困难片段预测性能方面，对抗训练策略远比课程学习有效。
引用
@article{arxiv.2110.11190,
title = {On Hard Episodes in Meta-Learning},
author = {Samyadeep Basu and Amr Sharaf and Nicolo Fusi and Soheil Feizi},
journal= {arXiv preprint arXiv:2110.11190},
year = {2021}
}