利用表示表达性与可学习性评估自监督学习方法
机器学习
2023-11-16 v2 人工智能
计算机视觉与模式识别
摘要
我们解决了在无监督标签情况下评估自监督学习(self-supervised learning, SSL)模型质量的问题，同时对训练期间使用的架构、学习算法或数据操作保持不可知。我们认为表示可以通过表达性(expressiveness)和可学习性(learnability)的视角进行评估。我们提议使用内在维度(Intrinsic Dimension, ID)来评估表达性，并引入簇可学习性(Cluster Learnability, CL)来评估可学习性。CL通过训练一个KNN分类器来预测由K-means对表示进行聚类所得标签的性能来衡量。因此我们将CL和ID结合为一个单一预测器——CLID。通过对一个多样化SSL算法族的大规模实证研究，我们发现CLID比其他近期竞争评估方案更好地与分布内模型性能相关。我们还在域外泛化上对CLID进行基准测试，其中CLID作为SSL模型在多个视觉分类任务上迁移性能的预测器，相对于竞争基线取得了改进。
引用
@article{arxiv.2206.01251,
title = {Using Representation Expressiveness and Learnability to Evaluate Self-Supervised Learning Methods},
author = {Yuchen Lu and Zhen Liu and Aristide Baratin and Romain Laroche and Aaron Courville and Alessandro Sordoni},
journal= {arXiv preprint arXiv:2206.01251},
year = {2023}
}