用自监督增强少样本学习的监督信号
计算机视觉与模式识别
2019-06-18 v1 机器学习
机器学习
摘要
我们提出一种技术，通过引入自监督任务作为辅助损失函数，来改善在小规模标注数据集上学习的深度表示的迁移能力。尽管近期的自监督学习方法已展示了在大规模无标注数据集上训练的好处，我们发现即使在小数据集上且与强监督结合时，泛化能力也有提升。以自监督损失学习表示，在多个少样本学习基准上将最先进的元学习器的相对错误率降低了 5-25%，并且从零开始训练时标准分类任务上的现成深度网络也受益。我们发现自监督的好处随任务难度增加而增大。我们的方法利用数据集内的图像来构造自监督损失，因此是在不依赖任何外部训练数据的情况下学习可迁移表示的有效途径。
引用
@article{arxiv.1906.07079,
title = {Boosting Supervision with Self-Supervision for Few-shot Learning},
author = {Jong-Chyi Su and Subhransu Maji and Bharath Hariharan},
journal= {arXiv preprint arXiv:1906.07079},
year = {2019}
}