方向性神经崩解解释自监督学习中的少样本迁移
机器学习
2026-03-05 v1 人工智能
摘要
冻结的自监督表征在许多语义任务中仅通过少量标签就能良好迁移。我们认为，单一几何量——方向性 CDNV（决策轴方差）——是两种有利行为的核心：强大的任务内少样本迁移和跨多个任务的低干扰。我们表明，当沿类别分离方向的可变性较小时，这两种行为都可实现。首先，我们证明了下游分类的尖锐非渐近多类泛化界限，其主导项即为方向性 CDNV。该界限包括有限抽样校正，清晰地将内在决策轴可变性与质心估计误差分离。其次，我们将决策轴崩解与多任务几何联系：对于独立且均衡的标签分配，小的方向性 CDNV 跨任务导致相应的决策轴几乎正交，从而帮助单个表征在最小干扰下支持多个任务。实验上，尽管经典 CDNV 保持较大，方向性 CDNV 在预训练期间仍然崩解，我们的界限在实际抽样规模下良好跟踪少样本误差。此外，在合成多任务数据上，我们验证 SSL 学习到的表征诱导的决策轴接近正交。论文的代码和项目页面均可在 [项目页面] 获得。
引用
@article{arxiv.2603.03530,
title = {Directional Neural Collapse Explains Few-Shot Transfer in Self-Supervised Learning},
author = {Achleshwar Luthra and Yash Salunkhe and Tomer Galanti},
journal= {arXiv preprint arXiv:2603.03530},
year = {2026}
}