基于对比检测的高效视觉预训练
计算机视觉与模式识别
2021-08-06 v2
摘要
自监督预训练已被证明能为迁移学习提供强大的表征。然而，这些性能提升伴随着巨大的计算代价，最先进的方法所需计算量比有监督预训练高一个数量级。我们通过引入新的自监督目标——对比检测(contrastive detection)来解决这一计算瓶颈，该目标要求表征在增强图像间识别物体级特征。该目标从每幅图像中提取丰富的学习信号，从而在多种下游任务上达到最先进的迁移精度，同时所需预训练最多减少 10 倍。特别地，我们最强的 ImageNet 预训练模型与 SEER 表现相当，而 SEER 是迄今最大的自监督系统之一，其使用的预训练数据多 1000 倍。最后，我们的目标可无缝处理 COCO 等更复杂图像的预训练，缩小了从 COCO 到 PASCAL 的有监督迁移学习差距。
引用
@article{arxiv.2103.10957,
title = {Efficient Visual Pretraining with Contrastive Detection},
author = {Olivier J. Hénaff and Skanda Koppula and Jean-Baptiste Alayrac and Aaron van den Oord and Oriol Vinyals and João Carreira},
journal= {arXiv preprint arXiv:2103.10957},
year = {2021}
}
备注
Technical report