OpenCon:开放世界对比学习
机器学习
2023-01-10 v2 计算机视觉与模式识别
摘要
部署在真实环境中的机器学习模型自然会遇到来自已知类别和 novel 类别的未标注样本。以开放世界半监督的方式从标注与未标注数据中学习带来了挑战。本文中,我们引入了一种新的学习框架——开放世界对比学习(OpenCon)。OpenCon 解决了为已知与 novel 类别学习紧凑表示并促进沿途新颖性发现的挑战。我们在具有挑战性的基准数据集上展示了 OpenCon 的有效性并建立了具竞争力的性能。在 ImageNet 数据集上,OpenCon 在 novel 和整体分类准确率上分别显著优于当前最佳方法 11.9% 和 7.4%。理论上,OpenCon 可从 EM 算法视角被严格解释——最小化我们的对比损失部分地最大化了通过在嵌入空间中聚类相似样本而得到的似然。代码可在 https://github.com/deeplearning-wisc/opencon 获取。
引用
@article{arxiv.2208.02764,
title = {OpenCon: Open-world Contrastive Learning},
author = {Yiyou Sun and Yixuan Li},
journal= {arXiv preprint arXiv:2208.02764},
year = {2023}
}
备注
Accepted at TMLR