VNDUQE：基于深度变分信息瓶颈的信息论新颖性检测

检测分布外（OOD）样本对于神经网络在安全关键应用中的安全部署至关重要。虽然最大 softmax 概率（MSP）提供了一个简单的基线，但它缺乏理论基础且存在校准误差。我们提出 VNDUQE（基于 VIB 的无损评估新颖性检测与不确定性量化），该方法通过深度变分信息瓶颈（VIB）研究新颖性检测，VIB 通过学习的表示显式约束信息流。我们在 MNIST 上训练 VIB 模型，并保留部分数字类别，使用信息论指标（KL 散度和预测熵）评估 OOD 检测。我们的结果揭示了互补的检测信号：KL 散度在远 OOD 样本（噪声、域偏移）上实现了完美检测（噪声上 100% AUROC），而预测熵在近 OOD 检测（新数字类别上 94.7% AUROC）中表现优异。结合两种指标的并行检测策略在 5% 假阳性率下实现了 95.3% 的平均 AUROC 和 92% 的真阳性率，比基线 MSP（85.0% AUROC，60.1% TPR）提高了 32 个百分点。通过信息瓶颈原理（$\beta=10^{-3}$）进行的压缩将预期校准误差降低了 38%，表明信息论约束能产生根本上更可靠的预测不确定性估计。这些发现直接支持了使用昂贵计算预言机的主动学习，其中校准良好的新颖性检测能够为预言机查询实现有原则的阈值选择。