VICReg：用于自监督学习的方差-不变性-协方差正则化
计算机视觉与模式识别
2022-01-31 v3 人工智能
机器学习
摘要
近期用于图像表示学习的自监督方法基于最大化同一图像不同视图的嵌入向量之间的一致性。当编码器输出恒定向量时会得到平凡解。这一坍缩问题常通过学习中架构的隐式偏置来避免，而这些偏置往往缺乏清晰的合理性或解释。本文中，我们引入VICReg（方差-不变性-协方差正则化，Variance-Invariance-Covariance Regularization），一种通过沿各维度单独对嵌入方差施加简单正则项来显式避免坍缩问题的方法。VICReg将该方差项与基于冗余降低和协方差正则化的去相关机制相结合，并在多个下游任务上取得了与当前最优（SOTA）相当的结果。此外，我们展示了将新的方差项融入其他方法有助于稳定训练并带来性能提升。
引用
@article{arxiv.2105.04906,
title = {VICReg: Variance-Invariance-Covariance Regularization for Self-Supervised Learning},
author = {Adrien Bardes and Jean Ponce and Yann LeCun},
journal= {arXiv preprint arXiv:2105.04906},
year = {2022}
}
备注
Accepted at ICLR 2022