SP$^2$OT：用于不平衡聚类的语义正则化渐进部分最优传输
计算机视觉与模式识别
2025-07-01 v2 机器学习
摘要
深度聚类旨在无标签信息的情况下学习表示和语义聚类，这对基于深度学习的方法构成了巨大挑战。尽管近年来取得了显著进展，但现有大多数方法都聚焦于均匀分布的数据集，这极大限制了其实际适用性。在本文中，我们提出了一个更实用的场景设定，名为深度不平衡聚类，其中潜在的类别呈现不平衡分布。为应对这一挑战，我们引入了一种基于最优传输的伪标签学习框架。该框架将伪标签生成形式化为一个语义正则化渐进部分最优传输（SPOT）问题，在先验和语义关系约束下，将每个样本渐进地传输至不平衡的簇中，从而生成高质量且具有不平衡感知的伪标签。为求解 SPOT 问题，我们提出了一种投影镜像下降算法，该算法在以下两步之间交替进行：(1) 计算 SPOT 目标的梯度；(2) 通过熵正则化渐进部分最优传输公式执行带投影的梯度下降。此外，我们将第二步形式化为具有增广约束的非平衡最优传输问题，并基于快速矩阵缩放算法开发了一种高效求解方案。在包括人工构建的长尾 CIFAR100、具挑战性的 ImageNet-R 以及大规模细粒度 iNaturalist2018 数据集子集上的多种数据集上的实验，证明了我们方法的优越性。代码可用：https://github.com/rhfeiyang/SPPOT
引用
@article{arxiv.2404.03446,
title = {SP$^2$OT: Semantic-Regularized Progressive Partial Optimal Transport for Imbalanced Clustering},
author = {Chuyu Zhang and Hui Ren and Xuming He},
journal= {arXiv preprint arXiv:2404.03446},
year = {2025}
}
备注
under review. Follow-up work of arXiv:2401.09266