通过风险分解评估自监督学习
机器学习
2024-01-09 v3 人工智能
机器学习
摘要
自监督学习（SSL）流程在许多设计选择上有所不同，如架构、增强或预训练数据。然而SSL通常仅用单一指标评估：在ImageNet上的线性探测（linear probing）。这未能提供关于模型为何或在何时更优的深入见解，也无从知晓如何改进。为此，我们提出一种SSL风险分解，其通过考虑表征学习步骤产生的误差推广了经典的监督近似-估计分解。我们的分解由四个误差分量组成：近似、表征可用性、探针泛化与编码器泛化。我们为每个分量提供高效估计量，并用其分析30个设计选择对169个在ImageNet上评估的SSL视觉模型的影响。我们的分析为设计和使用SSL模型提供了宝贵见解。例如，它突出了误差主要来源，并展示了如何通过权衡误差分量在特定设置（全样本 vs 少样本）中改进SSL。所有结果与预训练模型见 https://github.com/YannDubs/SSL-Risk-Decomposition。
引用
@article{arxiv.2302.03068,
title = {Evaluating Self-Supervised Learning via Risk Decomposition},
author = {Yann Dubois and Tatsunori Hashimoto and Percy Liang},
journal= {arXiv preprint arXiv:2302.03068},
year = {2024}
}
备注
Oral at ICML 2023