ICCV 2021 VIPriors 图像分类挑战赛亚军方案:一种吸引-排斥学习方法
计算机视觉与模式识别
2022-06-14 v1
摘要
卷积神经网络(CNNs)通过利用大规模数据集在图像分类中取得了显著成功。然而,在小规模数据集上从头开始高效且有效地学习仍极具挑战。由于训练数据集有限,类别概念将变得模糊,因为过参数化的 CNNs 倾向于简单记忆数据集,导致泛化能力较差。因此,研究如何学习更具判别性的表示同时避免过拟合至关重要。由于类别概念趋于模糊,捕捉更多个体层面的信息十分重要。为此,我们提出了一个称为吸引-排斥(Attract-and-Repulse)的新框架,其由对比正则化(CR)以丰富特征表示、对称交叉熵(SCE)以平衡不同类别的拟合以及 Mean Teacher 以校准标签信息组成。具体而言,SCE 和 CR 通过在类别(吸引)与实例(排斥)信息之间的自适应权衡来学习判别性表示并缓解过拟合。此后,Mean Teacher 通过校准更准确的软伪标签来进一步提升性能。充分的实验验证了吸引-排斥框架的有效性。结合其他策略,如激进的数据增强、TenCrop 推理和模型集成,我们在 ICCV 2021 VIPriors 图像分类挑战赛中取得亚军。
引用
@article{arxiv.2206.06168,
title = {2nd Place Solution for ICCV 2021 VIPriors Image Classification Challenge: An Attract-and-Repulse Learning Approach},
author = {Yilu Guo and Shicai Yang and Weijie Chen and Liang Ma and Di Xie and Shiliang Pu},
journal= {arXiv preprint arXiv:2206.06168},
year = {2022}
}
备注
2nd Place Solution for ICCV 2021 VIPriors Image Classification Challenge