FroSSL：用于高效多视图自监督学习的 Frobenius 范数最小化
机器学习
2024-08-06 v4
摘要
自监督学习(SSL)是一种流行的表示学习范式。近期的多视图方法可分为样本对比、维度对比或非对称网络类，每一类各有避免信息坍缩的思路。尽管这些类方法收敛到的解质量相近，但经验表明部分方法训练轮次效率低，需更久训练才能达到目标性能。提升效率的两类主要方法是协方差特征值正则化与使用更多视图。然而，由于计算特征值的计算复杂度，这两种方法难以结合。我们提出目标函数 FroSSL，在完全避免特征分解的同时调和了这两种方法。FroSSL 通过最小化协方差 Frobenius 范数避免坍缩，并通过最小化均方误差实现增广不变性。我们表明 FroSSL 比任何其他 SSL 方法更快地达到有竞争力的准确率，并从理论与经验上支持这一更快收敛源于 FroSSL 对嵌入协方差矩阵特征值的影响。我们还表明，当使用 FroSSL 在 STL-10、Tiny ImageNet 和 ImageNet-100 等多个数据集上训练 ResNet-18 时，其在线性探测评估中学习到了有竞争力的表示。
引用
@article{arxiv.2310.02903,
title = {FroSSL: Frobenius Norm Minimization for Efficient Multiview Self-Supervised Learning},
author = {Oscar Skean and Aayush Dhakal and Nathan Jacobs and Luis Gonzalo Sanchez Giraldo},
journal= {arXiv preprint arXiv:2310.02903},
year = {2024}
}
备注
Accepted by ECCV2024