MixCo：用于视觉表示的混合对比学习
计算机视觉与模式识别
2020-11-17 v2
摘要
对比学习在近期的自监督视觉表示方法中取得了显著成果。通过学习对比正样本对与相应负样本对的表示，无需人工标注即可训练出良好的视觉表示。本文提出混合对比（MixCo），将对比学习概念扩展至由正负图像混合编码得到的半正样本。MixCo 旨在学习表示的相对相似性，反映混合图像包含原始正样本的程度。我们在 TinyImageNet、CIFAR10 和 CIFAR100 上的标准线性评估协议下，验证了 MixCo 应用于近期自监督学习算法的有效性。实验中，MixCo 一致地提升了测试准确率。值得注意的是，当学习能力（如模型规模）受限时，提升更为显著，表明 MixCo 在真实场景中可能更为有用。代码见：https://github.com/Lee-Gihun/MixCo-Mixup-Contrast。
引用
@article{arxiv.2010.06300,
title = {MixCo: Mix-up Contrastive Learning for Visual Representation},
author = {Sungnyun Kim and Gihun Lee and Sangmin Bae and Se-Young Yun},
journal= {arXiv preprint arXiv:2010.06300},
year = {2020}
}
备注
accepted in NeurIPS 2020 Workshop on Self-Supervised Learning