理解对比表示学习中的归一化与分布外检测
计算机视觉与模式识别
2024-04-09 v2 机器学习
摘要
对比表示学习已成为异常检测的杰出方法。本文探索了对比特征的范数及其在分布外检测中的应用。我们提出了一种基于对比学习的简单方法，通过在对比层空间中区分正常样本来纳入分布外数据。我们的方法可以灵活地作为异常暴露（OE）方法应用，其中分布外数据是大量随机图像的集合，或者作为完全自监督学习方法，其中分布外数据是通过应用分布偏移变换自生成的。纳入额外分布外样本的能力为对比学习为基础的异常检测方法通常表现不佳的数据集（如航拍图像或显微图像）提供了可行的解决方案。此外，通过对比学习学到的高质量特征在OE场景中持续提升性能，即使可用的分布外数据集不够多样化。我们的大量实验证明了所提方法在各种场景下的优越性，包括单模态和多模态设置，以及各种图像数据集。
引用
@article{arxiv.2312.15288,
title = {Understanding normalization in contrastive representation learning and out-of-distribution detection},
author = {Tai Le-Gia and Jaehyun Ahn},
journal= {arXiv preprint arXiv:2312.15288},
year = {2024}
}