通过大型语言模型设想异常值暴露用于分布外检测
机器学习
2024-06-04 v1
摘要
在开放世界场景中部署机器学习模型时，检测分布外（OOD）样本至关重要。零样本OOD检测无需对分布内（ID）数据进行训练，随着CLIP等视觉-语言模型的出现已成为可能。现有方法仅使用封闭集标签构建基于文本的分类器。然而，这极大地限制了CLIP识别来自大型开放标签空间样本的固有能力。在本文中，我们提出通过利用大型语言模型（LLM）的专家知识和推理能力来设想潜在的异常值暴露（称为EOE），而无需访问任何实际OOD数据。由于更好地适应开放世界场景，EOE可以推广到不同任务，包括远、近和细粒度OOD检测。在技术上，我们设计了（1）基于视觉相似性的LLM提示，以生成专门用于OOD检测的潜在异常值类别标签，以及（2）基于潜在异常值惩罚的新评分函数，以有效区分困难OOD样本。实验上，EOE在不同OOD任务中实现了最先进的性能，并可有效扩展到ImageNet-1K数据集。代码公开于：https://github.com/tmlr-group/EOE。
引用
@article{arxiv.2406.00806,
title = {Envisioning Outlier Exposure by Large Language Models for Out-of-Distribution Detection},
author = {Chentao Cao and Zhun Zhong and Zhanke Zhou and Yang Liu and Tongliang Liu and Bo Han},
journal= {arXiv preprint arXiv:2406.00806},
year = {2024}
}
备注
ICML 2024