MICM：重新思考无监督预训练以提升少样本学习

人类展现出从有限数量的标记样本中快速学习的惊人能力，这一能力与当前机器学习系统截然不同。无监督少样本学习（Unsupervised Few-Shot Learning, U-FSL）旨在减少初始训练阶段对标注数据集的依赖。在本工作中，我们首先量化评估了掩码图像建模（Masked Image Modeling, MIM）和对比学习（Contrastive Learning, CL）对少样本学习任务的影响。我们的发现表明，MIM和CL在判别性和泛化能力方面的局限性分别贡献了它们在U-FSL背景下表现不佳的因素。为解决无监督预训练中泛化性与判别性之间的权衡问题，我们引入一种新范式，称为掩码图像对比建模（Masked Image Contrastive Modeling, MICM）。MICM创造性地将CL的针对性对象学习能力与MIM的通用视觉特征学习能力相结合，显著提升了其在下游少样本学习推理中的效能。广泛的实验分析确认了MICM的优势，表明其在少样本学习的泛化和判别能力方面均实现了显著提升。我们的全面定量评估进一步确证了MICM的优越性，表明基于MICM的两阶段U-FSL框架显著优于现有领先基线方法。