用于无监督视觉表征学习的聚类对比

我们提出Cluster Contrast（CueCo），一种 novel 用于无监督视觉表征学习的方法，有效结合了对比学习和聚类方法的优势。受近期进展的启发，CueCo旨在同时对特征空间内的特征进行散布和对齐。该方法利用两个神经网络，查询网络和关键网络，其中关键网络通过查询输出的慢速移动平均进行更新。CueCo采用对比损失以推远异构特征，增强类间分离度，同时采用聚类目标以拉近同一簇内的特征，促进类内紧凑性。我们的方法在CIFAR-10上实现了91.40%的top-1分类准确率，在CIFAR-100上实现了68.56%的准确率，在ImageNet-100上实现了78.65%的准确率（使用ResNet-18 backbone进行线性评估）。通过将对比学习与聚类相结合，CueCo为推动无监督视觉表征学习的发展指明了新的方向。