基于难样本的自监督预训练改进视觉表示
计算机视觉与模式识别
2021-01-05 v2 人工智能
机器学习
摘要
自监督预训练（SSP）采用随机图像变换来生成用于视觉表示学习的训练数据。在本文中，我们首先提出一个建模范式，将现有SSP方法统一为学习预测伪标签。然后，我们提出新的数据增强方法，生成其伪标签比通过随机图像变换生成的更难预测的的训练样本。具体而言，我们使用对抗训练和CutMix来创建难样本（HEXA），用作MoCo-v2和DeepCluster-v2的增广视图，分别得到两个变体HEXA_{MoCo}和HEXA_{DCluster}。在我们的实验中，我们在ImageNet上预训练模型，并在多个公开基准上评估它们。我们的评估表明，这两种新算法变体优于其原始对应方法，并在大量仅有有限任务监督可用于微调的任务上取得了新的最先进水平。这些结果验证了难样本有助于提升预训练模型的泛化能力。
引用
@article{arxiv.2012.13493,
title = {Self-supervised Pre-training with Hard Examples Improves Visual Representations},
author = {Chunyuan Li and Xiujun Li and Lei Zhang and Baolin Peng and Mingyuan Zhou and Jianfeng Gao},
journal= {arXiv preprint arXiv:2012.13493},
year = {2021}
}