Fast-MoCo：利用组合块加速基于动量的对比学习
计算机视觉与模式识别
2022-07-20 v2
摘要
基于对比的自监督学习方法近年来取得了巨大成功。然而，自监督需要极长的训练轮数（例如 MoCo v3 需 800 轮）才能获得理想结果，这对一般学术界而言难以接受，并阻碍了该方向的发展。本文重新审视了基于动量的对比学习框架，并指出其低效之处：两个增强视图仅生成一个正样本对。我们提出 Fast-MoCo——一种利用组合块从两个增强视图构造多个正样本对的新框架，其提供了丰富的监督信号，在可忽略的额外计算成本下带来显著加速。训练 100 轮的 Fast-MoCo 取得了 73.5% 的线性评估准确率，与训练 800 轮的 MoCo v3（ResNet-50 骨干）相当。额外训练（200 轮）将结果进一步提升至 75.1%，与最先进方法持平。在若干下游任务上的实验也证实了 Fast-MoCo 的有效性。
引用
@article{arxiv.2207.08220,
title = {Fast-MoCo: Boost Momentum-based Contrastive Learning with Combinatorial Patches},
author = {Yuanzheng Ci and Chen Lin and Lei Bai and Wanli Ouyang},
journal= {arXiv preprint arXiv:2207.08220},
year = {2022}
}
备注
Accepted for publication at the 2022 European Conference on Computer Vision (ECCV 2022)