通过自适应对比学习实现通用新颖性检测
机器学习
2024-08-21 v1
摘要
新颖性检测是将机器学习模型部署到开放世界中的关键任务。新颖性检测方法的一个关键属性是通用性,可以理解为在训练或测试数据的各种分布上的泛化。更精确地说,对于新颖性检测,分布偏移可能发生在训练集或测试集中。训练集中的偏移指的是我们在新数据集上训练新颖性检测器并期望强迁移能力的情况。相反,测试集中的分布偏移表示训练模型遇到偏移测试样本时的性能。我们实验性地表明,现有方法在维持通用性方面表现不佳,这源于其僵化的归纳偏置。受此启发,我们旨在获得具有更可适应归纳偏置的通用技术。在这方面,我们利用对比学习提供了一个高效框架,可以通过在形成负样本对时适当选择增强来轻松切换和适应新的归纳偏置。我们提出了一种新颖的概率自负样本对生成方法AutoAugOOD,结合对比学习,以产生通用新颖性检测器。我们的实验证明了我们的方法在不同图像基准数据集的不同分布偏移下的优越性。特别地,我们的方法在新颖性检测的不同设置下的通用性得以显现,包括单类、无标签多类和有标签多类设置。代码:https://github.com/mojtaba-nafez/UNODE
引用
@article{arxiv.2408.10798,
title = {Universal Novelty Detection Through Adaptive Contrastive Learning},
author = {Hossein Mirzaei and Mojtaba Nafez and Mohammad Jafari and Mohammad Bagher Soltani and Mohammad Azizmalayeri and Jafar Habibi and Mohammad Sabokrou and Mohammad Hossein Rohban},
journal= {arXiv preprint arXiv:2408.10798},
year = {2024}
}
备注
16 pages, 5 figures, conference