通过大 mini-batch、一致性与难负样本挖掘改进无监督学习的记忆库
计算机视觉与模式识别
2021-02-09 v1 机器学习
摘要
基于实例判别的无监督学习的一个重要组成部分是用于存储数据集中每个训练样本特征表示的记忆库。在本文中，我们对原始的基于记忆库的公式引入 3 项改进，带来巨大的精度提升：(a) 大 mini-batch：我们在同一批次中为每样本抽取多种增强，并表明这导致更好的模型与增强的记忆库更新。(b) 一致性：我们强制同一样本不同增强所得 logits 彼此接近，而不像先前方法那样试图针对负样本施加判别。(c) 难负样本挖掘：由于对视觉上过于相似的样本而言实例判别无意义，我们设计了一种新颖的近邻方法来改进记忆库，逐步合并先前被实例级分类损失强制分开的极相似数据样本。总体而言，我们的方法极大改进了原始的基于记忆库的实例判别，并在余弦相似度下对可见与不可见测试类别均优于所有现有方法。
引用
@article{arxiv.2102.04442,
title = {Improving memory banks for unsupervised learning with large mini-batch, consistency and hard negative mining},
author = {Adrian Bulat and Enrique Sánchez-Lozano and Georgios Tzimiropoulos},
journal= {arXiv preprint arXiv:2102.04442},
year = {2021}
}
备注
Accepted at ICASSP 2021