基于动量对比学习的改进基线
计算机视觉与模式识别
2020-03-10 v1
摘要
对比无监督学习近期取得了令人鼓舞的进展，例如在动量对比（MoCo）和SimCLR中。在本札记中，我们通过在MoCo框架中实现SimCLR的两项设计改进来验证其有效性。通过对MoCo进行简单修改——即使用MLP投影头与更多数据增强——我们建立了优于SimCLR且不需要大训练批次的更强基线。我们希望这将使最先进的无监督学习研究更易获取。代码将公开。
引用
@article{arxiv.2003.04297,
title = {Improved Baselines with Momentum Contrastive Learning},
author = {Xinlei Chen and Haoqi Fan and Ross Girshick and Kaiming He},
journal= {arXiv preprint arXiv:2003.04297},
year = {2020}
}
备注
Tech report, 2 pages + references