面向少样本分布外检测
计算机视觉与模式识别
2024-02-01 v3
摘要
分布外（OOD）检测对于保障开放世界智能系统的可靠性至关重要。尽管现有OOD检测方法取得显著进展，我们的研究发现在训练样本稀缺时性能出现大幅下降。在此背景下，我们引入一种新颖的少样本OOD检测基准，精心构建以弥补此缺口。我们的实证分析揭示，参数高效微调（PEFT）策略（如视觉提示微调与视觉适配器微调）优于全微调与线性探测微调等传统技术在少样本OOD检测任务中的表现。认识到预训练模型中对OOD检测起关键作用的一些重要信息可能在微调过程中丢失，我们提出一种称为领域特定与通用知识融合（DSGF）的方法。该方案设计为兼容多种微调框架。我们的实验表明，集成DSGF显著增强了各类方法与微调范式（包括全微调、视觉适配器微调和视觉提示微调）下的少样本OOD检测能力。代码将公开。
引用
@article{arxiv.2311.12076,
title = {Towards Few-shot Out-of-Distribution Detection},
author = {Jiuqing Dong and Yongbin Gao and Heng Zhou and Jun Cen and Yifan Yao and Sook Yoon and Park Dong Sun},
journal= {arXiv preprint arXiv:2311.12076},
year = {2024}
}