对比学习如何组织图像？
机器学习
2023-11-22 v2 人工智能
计算机视觉与模式识别
摘要
对比学习作为一种主流的自监督技术，强调同一输入的增广之间在表示上的相似性，以及不同输入之间的差异性。尽管低对比损失通常与高分类准确率相关，但最近的研究对这种直接关系提出了质疑，突出了归纳偏置的关键作用。我们从聚类的角度深入研究了这些偏置，发现对比学习创建的是局部稠密的聚类，这与监督学习产生的全局稠密聚类形成对比。为了捕捉这种差异，我们引入了“RLD (Relative Local Density)”指标。虽然这种聚类属性可能会阻碍线性分类的准确率，但利用基于图卷积网络 (GCN) 的分类器可以缓解这一问题，在提高准确率的同时减少参数需求。代码可在 \href{https://github.com/xsgxlz/How-does-Contrastive-Learning-Organize-Images/tree/main}{此处}获取。
引用
@article{arxiv.2305.10229,
title = {How does Contrastive Learning Organize Images?},
author = {Yunzhe Zhang and Yao Lu and Qi Xuan},
journal= {arXiv preprint arXiv:2305.10229},
year = {2023}
}