MaskCon：面向粗标签数据集的掩码对比学习
计算机视觉与模式识别
2023-03-23 v1
摘要
近年来，在先进神经网络结构与大规模人工标注数据集的助力下，深度学习取得了巨大成功。然而，准确高效地标注大规模数据集往往代价高昂且困难，尤其对于需要细粒度标签的一些专业领域。在此情形下，粗标签因无需专家知识而更易获取。本文中，我们提出一种对比学习方法，称为掩码对比学习（MaskCon），以应对这一未被充分探索的问题设定：我们利用粗标签数据集进行学习，以解决更细粒度的标注问题。更具体地，在对比学习框架内，对于每个样本，我们的方法借助粗标签并结合其他样本以及该样本的另一增强视图生成软标签。与仅将样本自身增强视为硬正样本的自监督对比学习、以及仅将具有相同粗标签的样本视为硬正样本的监督对比学习不同，我们提出基于样本距离、并由粗标签掩码的软标签。这使我们能同时利用样本间关系与粗标签。我们证明，我们的方法可将许多现有最优工作作为特例涵盖，并给出更紧的泛化误差界。在实验上，我们的方法在 CIFAR10、CIFAR100、ImageNet-1K、Stanford Online Products 与 Stanford Cars196 等多个数据集上相较当前最优水平取得显著提升。代码与标注见 https://github.com/MrChenFeng/MaskCon_CVPR2023。
引用
@article{arxiv.2303.12756,
title = {MaskCon: Masked Contrastive Learning for Coarse-Labelled Dataset},
author = {Chen Feng and Ioannis Patras},
journal= {arXiv preprint arXiv:2303.12756},
year = {2023}
}
备注
CVPR 2023 camera-ready version. Codes are available at https://github.com/MrChenFeng/MaskCon_CVPR2023