h-校准：基于概率误差有界目标的分类器重校准

深度神经网络在众多学习任务中展现出卓越性能，但常常存在误校准，导致不可靠的概率输出。这激发了许多最近的工作，通过后验重校准方法来缓解误校准，而不牺牲预训练模型的分类性能。在本研究中，我们将以往工作归纳为三种 general 策略：直观设计的方法、基于分箱的方法以及基于理想校准公式化的方法。通过理论和实践分析，我们概述了以往方法的十个常见局限性。为此，我们提出了一个称为 h-校准的概率学习框架，用于校准，理论上构建了标准校准的等效学习公式，具有有界性。在此基础上，我们设计了一个简单而有效的后验校准算法。我们的方法不仅克服了这十个识别局限性，还通过大量实验显著优于传统方法。我们进一步在理论和实验上分析了我们的学习目标与传统 proper scoring rule 之间的关系和优势。总之，我们的概率框架派生出一个近似等效的可微目标，用于学习具有误差有界的校准概率，阐明了计算统计与理论界限在标准校准中的对应关系和收敛属性。该研究在标准后验校准基准测试中实现了最先进的性能，得到了理论有效性的验证。这项研究为学习可靠似然概率及其相关领域的研究提供了有价值的参考。