CoNe:用于监督图像分类的对比你的邻居
计算机视觉与模式识别
2023-08-22 v1
摘要
图像分类是计算机视觉与机器学习研究中一个长期存在的问题。近期大多数工作(如 SupCon、Triplet 和最大间隔)主要聚焦于激进且紧凑地聚合类内样本,其假设是所有类内样本都应被紧密拉向各自类中心。然而,由于忽略了数据集中的类内方差,此类目标很难实现(即同一类的不同实例可能存在显著差异)。因此,这种单调的目标是不够的。为提供更具信息量的目标,我们引入对比你的邻居(CoNe)——一种简单却实用的监督图像分类学习框架。具体而言,在 CoNe 中,每个样本不仅由其类中心监督,还直接以其相似邻居的特征作为锚点来生成更具适应性和精细化的目标。此外,为进一步提振性能,我们提出“分布一致性”作为一种更具信息量的正则化,使相似实例拥有相似的概率分布。大量实验结果表明,CoNe 在不同基准数据集、网络架构和设置下均达到最先进性能。值得注意的是,即便没有复杂训练策略,我们的 CoNe 在 ImageNet 上用 ResNet-50 取得了 80.8% 的 Top-1 准确率,超越了近期的 Timm 训练策略(80.4%)。代码与预训练模型见 \href{https://github.com/mingkai-zheng/CoNe}{https://github.com/mingkai-zheng/CoNe}。
引用
@article{arxiv.2308.10761,
title = {CoNe: Contrast Your Neighbours for Supervised Image Classification},
author = {Mingkai Zheng and Shan You and Lang Huang and Xiu Su and Fei Wang and Chen Qian and Xiaogang Wang and Chang Xu},
journal= {arXiv preprint arXiv:2308.10761},
year = {2023}
}