通过简单集成投影器消除偏差、校准并提升半监督学习性能
计算机视觉与模式识别
2023-10-25 v1 人工智能
摘要
近期关于半监督学习（SSL）的研究取得了巨大成功。尽管性能令人瞩目，当前最先进的方法倾向于日益复杂的设计，代价是引入更多网络组件和额外训练流程。本文提出一种名为集成投影器辅助半监督学习（EPASS）的简单方法，主要关注改进所学嵌入以提升现有对比联合训练半监督学习框架的性能。与标准方法将来自单一投影器的所学嵌入存入记忆库以供对比学习不同，EPASS 将来自多个投影器的集成嵌入存入记忆库。因此，EPASS 改善了泛化能力、增强了特征表示并提升了性能。例如，在使用仅 100k/1%/10% 标注数据时，EPASS 将 SimMatch 的半监督学习强基线 top-1 错误率降低了 39.47%/31.39%/24.70%，并在 ImageNet 数据集上为 CoMatch 取得 40.24%/32.64%/25.90% 的 top-1 错误率。这些改进在不同方法、网络架构和数据集上保持一致，证明了所提方法的普遍有效性。代码见 https://github.com/beandkay/EPASS。
引用
@article{arxiv.2310.15764,
title = {Debiasing, calibrating, and improving Semi-supervised Learning performance via simple Ensemble Projector},
author = {Khanh-Binh Nguyen},
journal= {arXiv preprint arXiv:2310.15764},
year = {2023}
}
备注
Accepted to WACV 2024