语言模型的少样本重校准

近期的研究揭示了从语言模型（LM）中提取良好校准的置信度估计的有效方法，其中模型的置信度分数反映了其正确的可能性。然而，尽管 LM 在宽泛的分布上可能显得校准良好，但这通常掩盖了在较窄切片内的显著误校准（例如，数学上的系统性过度自信可以抵消历史上的系统性自信不足，从而在总体上产生完美的校准）。为了对分布的任意切片获得良好校准的置信度估计，我们提出了一种用于少样本特定切片重校准的新框架。具体而言，我们训练一个重校准模型，该模型接收来自任意给定切片的少量无标签示例，并预测一条曲线，将置信度分数重新映射为对该切片更准确的值。我们训练的模型可以在不使用该切片任何标记数据的情况下，对任意新切片进行重校准。这使我们能够识别特定领域的置信度阈值，高于该阈值时 LM 的预测可以被信任，低于该阈值时则应弃权。实验表明，我们的少样本重校准器始终优于现有的校准方法，例如，与温度缩放相比，将 PaLM2-Large 在 MMLU 上的校准误差降低了 16%。