基于课程的自监督视觉特征学习
计算机视觉与模式识别
2020-01-17 v1
摘要
自监督学习技术已展现出学习有意义特征表示的能力。这是通过在 pretext task 上训练模型实现的，此类任务只需发现输入之间或输入各部分之间的关联。然而，这类pretext task需要仔细手工选取，以避免使这些任务变得平凡的低层信号。此外，移除这些捷径往往会导致部分语义有价值信息的丢失。我们表明这直接影响下游任务的学习速度。本文中，我们从课程学习获得启发，逐步移除低层信号，并表明其显著提升了下游任务的收敛速度。
引用
@article{arxiv.2001.05634,
title = {Self-supervised visual feature learning with curriculum},
author = {Vishal Keshav and Fabien Delattre},
journal= {arXiv preprint arXiv:2001.05634},
year = {2020}
}
备注
9 pages