对比自监督学习框架及一种新方法的构建
计算机视觉与模式识别
2020-09-02 v1 机器学习
摘要
对比自监督学习(CSL)是一种通过求解从无标签数据集中选取并比较锚点、负样本与正样本(APN)特征的 pretext 任务来学习有用表示的方法。我们提出一个概念框架，从五个方面刻画 CSL 方法：(1) 数据增强流水线，(2) 编码器选择，(3) 表示提取，(4) 相似度度量，以及 (5) 损失函数。我们分析了三种主流 CSL 方法——AMDIM、CPC 和 SimCLR——，并表明尽管动机不同，它们在该框架下均为特例。我们通过设计 Yet Another DIM (YADIM) 展示了框架的效用，其在 CIFAR-10、STL-10 和 ImageNet 上取得有竞争力的结果，并且对编码器选择与表示提取策略更具鲁棒性。为支持持续的 CSL 研究，我们发布了该概念框架的 PyTorch 实现，以及 AMDIM、CPC (V2)、SimCLR、BYOL、Moco (V2) 和 YADIM 的标准化实现。
引用
@article{arxiv.2009.00104,
title = {A Framework For Contrastive Self-Supervised Learning And Designing A New Approach},
author = {William Falcon and Kyunghyun Cho},
journal= {arXiv preprint arXiv:2009.00104},
year = {2020}
}