基于归一化对数几率的分布式外检测不确定性估计

分布式外(OOD)检测对于防止深度学习模型做出错误预测、确保人工智能系统安全至关重要。尤其在医疗诊断和自动驾驶等安全关键应用中，错误决策的成本通常难以承受。然而，神经网络常面临过度自信问题，对训练过程中从未见过且可能与训练数据（即分布式内(ID)数据）无关的OOD数据给出高置信度。判断预测可靠性仍是一项困难且具挑战性的任务。本工作中，我们提出归一化对数几率不确定性估计(UE-NL)，一种用于OOD检测的鲁棒学习方法，其具有三个主要优势。(1) 采用UE-NL的神经网络通过预测输入数据的不确定性分数，使每个ID样本被平等对待，并将该不确定性加入softmax函数以调整训练阶段中简单与困难样本的学习强度，使模型鲁棒且准确地学习。(2) UE-NL对对数几率施加恒定向量范数，以解耦输出范数增长对优化过程的影响，该影响在某种程度上导致了过度自信问题。(3) UE-NL提供一种新度量，即不确定性分数大小，用于检测OOD数据。实验表明，UE-NL在常用OOD基准上取得顶尖性能，且对其他方法可能误判为OOD的含噪ID数据更具鲁棒性。