VI-OOD：面向文本分布外检测的统一表示学习框架

分布外（OOD）检测在确保深度神经网络在各种应用中的安全性和可靠性方面起着关键作用。尽管视觉数据中的OOD检测日益受到关注，但文本OOD检测领域受到的关注较少。仅有少数尝试直接将通用OOD检测方法应用于自然语言处理（NLP）任务，而未充分考虑文本数据的特性。本文深入研究了基于Transformer的文本OOD检测。我们首先指出现有OOD检测方法中普遍存在的一个关键问题：通过最大化条件似然 $p(y\mid x)$ 学习到的有偏表示可能导致性能不佳。然后，我们提出了一种新颖的变分推断框架VI-OOD，该框架最大化联合分布 $p(x, y)$ 的似然而非 $p(y\mid x)$。VI-OOD通过高效利用预训练Transformer的表示，专门针对文本OOD检测进行了定制。通过在多种文本分类任务上的全面实验，VI-OOD展示了其有效性和广泛适用性。我们的代码已在 \url{https://github.com/liam0949/LLM-OOD} 发布。