论现代神经网络的校准

置信度校准——即预测能够代表真实正确似然的概率估计的问题——对于许多应用中的分类模型非常重要。我们发现，现代神经网络与十年前的网络不同，其校准效果很差。通过大量实验，我们观察到深度、宽度、权重衰减和 Batch Normalization 是影响校准的重要因素。我们在最先进的架构上，使用图像和文档分类数据集评估了各种后处理校准方法的性能。我们的分析和实验不仅提供了对神经网络学习的见解，还为实际应用环境提供了一种简单直接的方案：在大多数数据集上，温度缩放（temperature scaling，Platt Scaling 的单参数变体）在校准预测方面出奇地有效。