中文

保持可控:面向现实长尾半监督学习的可控伪标签生成

计算机视觉与模式识别 2025-12-12 v6 机器学习

摘要

当前的长尾半监督学习方法假设标签数据呈现长尾分布,而未标记数据遵循典型的预定义分布(即长尾、均匀或逆长尾)。然而,未标记数据的分布通常是未知的,可能遵循任意分布。为应对这一挑战,我们提出了一种可控伪标签生成(CPG)框架,通过逐步识别可靠伪标签来扩展标签数据集,并在已知分布的标签数据集上进行训练,从而不受未标记数据分布的影响。具体而言,CPG 通过一种可控自我强化优化循环实现:(i)在每个训练步骤中,我们的动态可控过滤机制从未标记数据集中选择性地纳入可靠伪标签,以确保更新后的标签数据集遵循已知分布;(ii)我们基于更新后的标签数据分布构建贝叶斯最优分类器;(iii)该改进后的分类器随后帮助在下一个训练步骤中识别更多可靠伪标签。我们进一步在一定条件下证明了这一优化循环可显著降低泛化误差。此外,我们提出了一种面向少数类的自适应数据增强模块,以进一步提升少数类的表征,以及一个辅助分支,通过利用所有标签和未标记样本实现数据充分利用。在various常用基准数据集上的全面评估表明,CPG 均实现了一致的改进,准确率提升最高可达 \textbf{15.97%}。代码已公开于 https://github.com/yaxinhou/CPG。

关键词

引用

@article{arxiv.2510.03993,
  title  = {Keep It on a Leash: Controllable Pseudo-label Generation Towards Realistic Long-Tailed Semi-Supervised Learning},
  author = {Yaxin Hou and Bo Han and Yuheng Jia and Hui Liu and Junhui Hou},
  journal= {arXiv preprint arXiv:2510.03993},
  year   = {2025}
}

备注

The paper is accepted by NeurIPS 2025