受Universum启发的监督对比学习

作为一种有效的数据增强方法，Mixup通过线性插值合成额外样本。尽管其在理论上依赖于数据性质，但据报道Mixup作为正则化与校准器表现良好，为深度模型训练提供了可靠的鲁棒性与泛化能力。本文受利用类外样本辅助目标任务的Universum学习启发，从一个很大程度上未被充分探索的视角考察Mixup——即生成属于目标类别之外（亦即universum）的域内样本的潜力。我们发现，在监督对比学习框架下，Mixup诱导的universum可作为出奇高质量难负样本，极大缓解了对比学习对大批量大小的依赖。基于这些发现，我们提出受Universum启发的监督对比学习（UniCon），其引入Mixup策略生成Mixup诱导的universum作为universum负样本，并将其与目标类别的锚样本推远。我们将方法扩展至无监督设定，提出无监督Universum启发对比模型（Un-Uni）。我们的方法不仅以硬标签改进了Mixup，还创新了一种生成universum数据的新度量。在所学表征上采用线性分类器，UniCon在多个数据集上展现出最先进的性能。特别地，UniCon在CIFAR-100上取得81.7%的top-1准确率，以显著5.2%的优势超越此前最优，且批量大小更小，典型地为UniCon中256对比SupCon中使用ResNet-50时的1024。Un-Uni在CIFAR-100上也优于SOTA方法。本文代码发布于https://github.com/hannaiiyanggit/UniCon。