CaCo：通过协作-对抗对比学习正样本与负样本均可直接学习
计算机视觉与模式识别
2022-03-29 v1 人工智能
摘要
作为代表性的自监督方法，对比学习在无监督表征训练上取得了巨大成功。它通过区分给定查询锚点的正样本与负样本来训练编码器。这些正、负样本在定义学习判别性编码器的目标中起关键作用，避免其学习平凡特征。现有方法启发式地选择这些样本，我们提出一种原则性方法，其中正样本和负样本均可与编码器端到端直接学习。我们表明，正样本和负样本可分别通过最小化和最大化对比损失进行协作与对抗式学习。这产生了相对于编码器的协作正样本与对抗负样本，它们被更新以持续跟踪查询锚点在小批量上学习的表征。所提方法在ImageNet1K上以ResNet-50骨干预训练200和800轮时分别取得71.3%和75.3%的top-1准确率，且未使用多裁剪或更强增强等技巧。结合Multi-Crop可进一步提升至75.7%。源代码与预训练模型发布于https://github.com/maple-research-lab/caco。
引用
@article{arxiv.2203.14370,
title = {CaCo: Both Positive and Negative Samples are Directly Learnable via Cooperative-adversarial Contrastive Learning},
author = {Xiao Wang and Yuhang Huang and Dan Zeng and Guo-Jun Qi},
journal= {arXiv preprint arXiv:2203.14370},
year = {2022}
}
备注
10 pages, 5 figures, 7 tables