BECLR：批次增强对比少样本学习
计算机视觉与模式识别
2024-02-06 v1 机器学习
摘要
在深度表示学习时代，从极少量标注样本中快速学习是区分机器与人类的一项基本属性。无监督少样本学习（U-FSL）旨在通过摒弃训练时对标注的依赖来弥合这一差距。受对比学习方法在 U-FSL 领域成功的启发，我们从结构上探讨了其在预训练和下游推理阶段的缺陷。我们提出了一种新颖的动态聚类记忆（DyCE）模块，以促进高度可分的潜在表示空间，从而增强预训练阶段的正采样，并将隐式类级见解注入无监督对比学习中。随后，我们处理了少样本推理阶段中某种程度上被忽视却至关重要的样本偏差问题。我们提出了一种基于最优传输的迭代分布对齐（OpTA）策略，并证明它能有效解决该问题，尤其是在 FSL 方法受样本偏差影响最严重的低样本场景中。之后我们讨论了 DyCE 和 OpTA 是一种新颖的端到端方法（我们将其命名为 BECLR）的两个交织部分，它们建设性地放大了彼此的影响。接着，我们展示了一系列广泛的定量和定性实验，以证实 BECLR 在所有现有的 U-FSL 基准测试上均确立了新的 SOTA（据我们所知），并且显著优于当前最佳基线（代码库可在 https://github.com/stypoumic/BECLR 获取）。
引用
@article{arxiv.2402.02444,
title = {BECLR: Batch Enhanced Contrastive Few-Shot Learning},
author = {Stylianos Poulakakis-Daktylidis and Hadi Jamali-Rad},
journal= {arXiv preprint arXiv:2402.02444},
year = {2024}
}
备注
ICLR 2024 Spotlight Presentation