基于能量模型的野生数据集中的不确定性校准实例标度

随着深度神经网络（DNN）性能的快速提升，越来越多的人工智能（AI）系统被部署到实际场景中。然而，许多DNN缺乏表达不确定性的能力，即使进行错误预测，也常常表现出过度的自信。为确保AI系统在安全关键型场景中的可靠性，DNN应能透明地反映其预测中的不确定性。本文在多类分类任务的上下文中，研究针对DNN的鲁棒后置不确定性校准方法。尽管已有研究取得了显著进展，但仍面临在面对分布外（OOD）情景时实现稳健校准的挑战。我们指出，先前方法缺乏对单个输入数据的适应性，难以准确估计处理来自野生数据集的输入时的不确定性。为此，我们提出一种基于能量模型的实例级校准方法。该方法使用能量得分而非softmax置信度得分，允许在logit空间中对每个预测的DNN不确定性进行自适应考虑。实验结果表明，与其他最先进方法相比，所提方法在从分布内到OOD情景的广泛范围内均能保持稳健性能。