中文

T-REGS:基于最小生成树正则化的自监督学习

机器学习 2026-02-09 v2 计算几何 计算机视觉与模式识别

摘要

自监督学习 (SSL) 已成为无标签数据学习表征的强大范式, 通常通过强化对输入变换(如旋转或模糊)的不变性来实现。近期研究突显两大关键属性对高质量表征的重要性: (i) 避免维度坍缩-即学习到的特征仅占据低维子空间; (ii) 提升诱导分布的均匀性。本文引入 T-REGS, 一种基于学习表征上最小生成树 (MST) 长度的简单正则化框架。我们提供理论分析, 说明 T-REGS 能同时缓解维度坍缩并在任意紧致黎曼流形上促进分布均匀性。在合成数据和经典 SSL 基准测试上的多个实验验证了该方法在提升表征质量方面的有效性。

关键词

引用

@article{arxiv.2510.23484,
  title  = {T-REGS: Minimum Spanning Tree Regularization for Self-Supervised Learning},
  author = {Julie Mordacq and David Loiseaux and Vicky Kalogeiton and Steve Oudot},
  journal= {arXiv preprint arXiv:2510.23484},
  year   = {2026}
}

备注

NeurIPS 2025