解耦然后收敛：处理长尾半监督学习中未知的无标签分布
机器学习
2026-05-19 v2
摘要
尽管长尾半监督学习（LTSSL）在许多现实世界的分类任务中引起了越来越多的关注，但现有的LTSSL算法通常假设有标签数据和无标签数据共享几乎相同的类别分布。当这一假设被违反时，这些方法可能表现不佳，因为它们依赖于有偏的模型生成的伪标签。为了解决这个问题，我们提出了一种简单而有效的方法，称为DeCon，用于处理具有未知无标签类别分布的LTSSL。具体来说，DeCon将学习解耦为两个专门的分支：一个关注头部类的标准分支和一个关注尾部类的平衡分支。在训练过程中，两个分支相互作用并逐渐收敛，使它们能够相互补充，最终在所有类别上实现强大的性能。尽管其简单性，我们证明DeCon在各种标准LTSSL基准测试中达到了最先进的性能，例如，当有标签和无标签数据的类别分布不匹配时，测试准确率平均比现有算法绝对提高2.7%。即使类别分布相同，DeCon也始终优于许多复杂的LTSSL算法。此外，我们进行了广泛的消融分析，以剖析对DeCon成功最重要的因素。源代码可在\url{https://github.com/Gank0078/DeCon}获取。
引用
@article{arxiv.2406.13187,
title = {Decouple then Converge: Handling Unknown Unlabeled Distributions in Long-Tailed Semi-Supervised Learning},
author = {Kai Gan and Tong Wei and Min-Ling Zhang},
journal= {arXiv preprint arXiv:2406.13187},
year = {2026}
}
备注
TPAMI Accepted