TADAM：用于改进少样本学习的任务依赖自适应度量
机器学习
2019-01-28 v4 人工智能
计算机视觉与模式识别
机器学习
摘要
少样本学习对于产生能从少量样本中进行泛化的模型已变得至关重要。在本工作中，我们发现度量缩放和度量任务条件化对于提升少样本算法的性能非常重要。我们的分析表明，简单的度量缩放完全改变了少样本算法参数更新的性质。在 mini-Imagenet 5-way 5-shot 分类任务中，度量缩放为某些度量带来了高达 14% 的准确率提升。我们进一步提出了一种简单有效的方法，使学习器基于任务样本集进行条件化，从而学习到一个任务依赖的度量空间。此外，我们提出并实证测试了一种基于辅助任务协同训练的实用端到端优化程序，以学习任务依赖的度量空间。由此产生的基于任务依赖缩放度量的少样本学习模型在 mini-Imagenet 上达到了 SOTA。我们在本文引入的另一个基于 CIFAR100 的少样本数据集上验证了这些结果。我们的代码已在 https://github.com/ElementAI/TADAM 公开。
引用
@article{arxiv.1805.10123,
title = {TADAM: Task dependent adaptive metric for improved few-shot learning},
author = {Boris N. Oreshkin and Pau Rodriguez and Alexandre Lacoste},
journal= {arXiv preprint arXiv:1805.10123},
year = {2019}
}