用于异常检测的平均偏移对比损失

深度异常检测方法学习能够区分正常与异常图像的表示。尽管自监督表示学习被普遍使用，但较小的数据集规模限制了其有效性。先前的研究表明，利用外部的通用数据集（例如 ImageNet 分类数据集）可以显著提升异常检测性能。一种方法是离群值暴露，当外部数据集与异常不相似时该方法会失效。我们采用将外部数据集上预训练的表示迁移用于异常检测的方法。通过在正常训练图像上微调预训练的表示，可以显著改善异常检测性能。在本文中，我们首先论证并分析，最流行的自监督学习范式——对比学习，不能被朴素地应用于预训练特征。原因在于，预训练特征初始化导致标准对比目标的条件数很差，从而产生糟糕的优化动态。基于我们的分析，我们提出了一种改进的对比目标，即平均偏移对比损失（Mean-Shifted Contrastive Loss）。我们的方法非常有效，并在异常检测上达到了新的最先进性能，包括在 CIFAR-10 数据集上取得 $98.6\%$ ROC-AUC。