中文

CADet:基于对比学习的全自监督分布外检测

机器学习 2024-12-11 v4 计算机视觉与模式识别

摘要

处理分布外(OOD)样本已成为机器学习系统实际部署中的一大关键问题。本文探索利用自监督对比学习同时检测两类 OOD 样本:未见类别与对抗扰动。首先,我们将自监督对比学习与最大均值差异(MMD)双样本检验相结合。该方法使我们能够稳健地检验两组独立样本是否来自同一分布,并且我们证明其在区分 CIFAR-10 与 CIFAR-10.1 时比以往工作具有更高的置信度。受此启发,我们提出 CADet(对比异常检测),一种用于单样本 OOD 检测的新方法。CADet 从 MMD 中汲取灵感,但利用同一样本的不同对比变换之间的相似性。CADet 在 ImageNet 上识别对抗扰动样本方面优于现有的对抗检测方法,并在两个具有挑战性的基准测试 ImageNet-O 和 iNaturalist 上取得了与未见标签检测方法相当的性能。值得注意的是,CADet 完全自监督,既不需要分布内样本的标签,也不需要访问 OOD 样本。

关键词

引用

@article{arxiv.2210.01742,
  title  = {CADet: Fully Self-Supervised Out-Of-Distribution Detection With Contrastive Learning},
  author = {Charles Guille-Escuret and Pau Rodriguez and David Vazquez and Ioannis Mitliagkas and Joao Monteiro},
  journal= {arXiv preprint arXiv:2210.01742},
  year   = {2024}
}