基于原型混合学习的分布外检测

分布外 (OOD) 检测旨在检测远离分布内 (ID) 训练数据的测试样本，这对于机器学习模型在现实世界中的安全部署至关重要。随着深度表示学习的增强，基于距离的 OOD 检测方法应运而生。它们通过测量 unseen OOD 样本与 ID 类质心或原型的距离来识别这些样本。然而，现有方法学习表示时依赖于过于简化的数据假设，例如用单个质心类原型对每类的 ID 数据进行建模，或使用未针对 OOD 检测设计的损失函数，从而忽视了数据内部的自然多样性。朴素地强制每类的数据样本仅围绕一个原型紧凑分布，会导致对现实数据建模不足且性能受限。为解决这些问题，我们提出了基于原型混合的原型学习 (PALM)，该方法用多个原型对每个类进行建模以捕捉样本多样性，并学习更忠实和紧凑的样本嵌入以增强 OOD 检测。我们的方法自动识别并动态更新原型，通过互惠邻居软分配权重将每个样本分配给原型的子集。PALM 优化最大似然估计 (MLE) 损失以鼓励样本嵌入围绕相关原型紧凑分布，同时在所有原型上施加对比损失，以增强原型级别的类内紧凑性和类间判别力。此外，原型的自动估计使我们的方法能够扩展到具有未标记 ID 数据的具有挑战性的 OOD 检测任务。大量实验证明了 PALM 的优越性，在具有挑战性的 CIFAR-100 基准测试中达到了 93.82 的州最先进平均 AUROC 性能。代码地址：https://github.com/jeff024/PALM。