原型裂变：封闭集合以实现鲁棒开放集半监督学习
机器学习
2023-08-31 v1 计算机视觉与模式识别
摘要
半监督学习(SSL)已被证明在现实大规模无标注数据集中易受分布外(OOD)样本影响，因其将OOD过自信地伪标注为分布内(ID)。一个关键的潜在问题是类级潜在空间从封闭已见空间向开放未见空间扩散，且该偏差在SSL的自训练循环中被进一步放大。为封闭ID分布集合从而使OOD更好被拒以实现安全SSL，我们提出原型裂变(PF)，仅由粗粒度标签驱动，通过自动细粒度潜在空间挖掘将类级潜在空间划分为紧凑子空间。具体而言，我们为每个类形成多个独特可学习的子类原型，并朝多样性与一致性优化。多样性建模项鼓励样本被多个子类原型之一聚类，而一致性建模项将同类所有样本聚至一个全局原型。原型裂变并非“开放集合”即建模OOD分布，而是“封闭集合”并使OOD样本难以拟合子类潜在空间。因此，PF与现有方法兼容以获得进一步提升。大量实验验证了我们的方法在开放集SSL设定中于成功形成子类、区分OOD与ID以及提升总体精度方面的有效性。代码将公开。
引用
@article{arxiv.2308.15575,
title = {Prototype Fission: Closing Set for Robust Open-set Semi-supervised Learning},
author = {Xuwei Tan and Yi-Jie Huang and Yaqian Li},
journal= {arXiv preprint arXiv:2308.15575},
year = {2023}
}