基于谱排序的广义序数排名的对比学习用于半监督深度回归
机器学习
2025-12-11 v1
摘要
对比学习方法通过在特征空间中强制标签距离关系来提升回归模型的表示能力。然而,这些方法高度依赖标签信息来正确恢复特征的序数关系,这限制了其在半监督回归中的应用。在本工作中,我们将对比回归方法扩展至允许无标签数据在半监督设置中使用,从而降低对昂贵标注的依赖。特别地,我们利用小批量中的有标签和无标签样本构建特征相似性矩阵,并通过谱排序算法在误差处于一定范围内时恢复所涉及无标签样本的准确序数排名。有标签样本的引入通过真实标签信息的指导对序数排名进行正则化,使排名更加可靠。为减少特征扰动,我们进一步利用动态规划算法选择鲁棒的特征用于矩阵构建。恢复后的序数关系随后用于无标签样本的对比学习,从而使更多数据可用于特征表示学习,实现更鲁棒的结果。序数排名还可用于监督无标签样本的预测,作为额外的训练信号。我们提供了理论保证并通过多种数据集的实验验证,表明该方法可超越现有的最先进半监督深度回归方法。代码已发布在https://github.com/xmed-lab/CLSS。
引用
@article{arxiv.2512.09267,
title = {Contrastive Learning for Semi-Supervised Deep Regression with Generalized Ordinal Rankings from Spectral Seriation},
author = {Ce Wang and Weihang Dai and Hanru Bai and Xiaomeng Li},
journal= {arXiv preprint arXiv:2512.09267},
year = {2025}
}