用于无监督视觉特征学习的参数化实例分类
计算机视觉与模式识别
2020-06-26 v1 机器学习
摘要
本文提出用于无监督视觉特征学习的参数化实例分类（PIC）。与以双分支非参数方式做实例判别的最先进方法不同，PIC 直接进行单分支参数化实例分类，揭示了一个类似于有监督分类且无需解决信息泄漏问题的简单框架。我们表明，通过采用最先进方法中的若干常见组件设置，简单 PIC 框架可媲美最先进方法，即 SimCLR 和 MoCo v2。我们还提出两种新技术以进一步提升 PIC 的有效性和实用性：1）滑动窗口数据调度器，替代先前的基于轮次的数据调度器，解决了 PIC 中实例访问极不频繁的问题并提升了有效性；2）负采样与权重更新校正方法，以减少训练时间与 GPU 内存消耗，这也使 PIC 可应用于几乎不限量的训练图像。我们希望 PIC 框架可作为简单基线以促进未来研究。
引用
@article{arxiv.2006.14618,
title = {Parametric Instance Classification for Unsupervised Visual Feature Learning},
author = {Yue Cao and Zhenda Xie and Bin Liu and Yutong Lin and Zheng Zhang and Han Hu},
journal= {arXiv preprint arXiv:2006.14618},
year = {2020}
}