对比学习中的不确定性：论下游性能的可预测性
机器学习
2022-07-20 v1 人工智能
计算机视觉与模式识别
图像与视频处理
机器学习
摘要
当今一些最先进的深度学习模型的优越性能，在某种程度上归功于在大规模数据集上的广泛（自）监督对比预训练。在对比学习中，网络被呈现正（相似）与负（不相似）数据点对，并被训练为每个数据点找到嵌入向量，即表示，可进一步针对各类下游任务微调。为在这些模型于关键决策系统中安全部署，为其配备不确定性或可靠性度量至关重要。然而，由于对比模型的成对训练性质，以及输出（抽象嵌入向量）缺乏绝对标签，将常规不确定性估计技术适配于此类模型并非易事。本工作中，我们研究此类表示的不确定性是否能以有意义的方式对单个数据点量化。换言之，我们探究给定数据点的下游性能是否可直接从其预训练嵌入预测。我们展示该目标可通过直接在嵌入空间中估计训练数据分布并考虑表示的局部一致性来实现。我们的实验表明，嵌入向量的这一不确定性概念常与其下游准确率强相关。
引用
@article{arxiv.2207.09336,
title = {Uncertainty in Contrastive Learning: On the Predictability of Downstream Performance},
author = {Shervin Ardeshir and Navid Azizan},
journal= {arXiv preprint arXiv:2207.09336},
year = {2022}
}