教导模型以自然语言表达其不确定性

我们展示了GPT-3模型能够学会以自然语言表达对其自身答案的不确定性——无需使用模型对数（logits）。当给定问题时，模型同时生成答案和置信度水平（如“90%置信度”或“高置信度”）。这些水平映射到校准良好的概率。该模型在分布偏移下仍保持中等程度的校准，且对其自身答案的不确定性敏感，而非模仿人类示例。据我们所知，这是首次有模型被证明能以自然语言对其自身答案表达校准后的不确定性。为测试校准，我们引入了CalibratedMath任务套件。我们将以文字表达的不确定性（“语言化概率”）与从模型对数提取的不确定性进行比较。两类不确定性均能在分布偏移下泛化校准能力。我们还提供证据表明，GPT-3泛化校准的能力依赖于与对其答案的认知不确定性相关的预训练潜在表示。